DSPy 是斯坦福 NLP 团队开发的声明式语言模型编程框架,用于构建和优化语言模型程序。它的核心思路是用声明式编程替代手工提示工程,让提示词通过数据驱动的方法自动优化。
一、用途 DSPy 适用于以下场景:构建包含多个组件和工作流的复杂 AI 系统;以声明式方式编程语言模型,而非手工编写提示词;使用数据驱动方法自动优化提示词;创建可维护、可移植的模块化 AI 流水线;通过优化器系统性地改进模型输出;构建更可靠的 RAG 系统、智能体或分类器。
二、安装 稳定版:pip install dspy 最新开发版:pip install git+https://github.com/stanfordnlp/dspy.git 按提供商安装:pip install dspy[openai](OpenAI)、pip install dspy[anthropic](Anthropic Claude)、pip install dspy[all](全部提供商)。
三、核心概念
- Signatures(签名):定义 AI 任务的结构(输入→输出)。可使用内联签名(如 dspy.Predict("question -> answer"),适合快速原型和简单任务),或类签名(继承 dspy.Signature,适合复杂任务、类型提示和更好的文档说明)。
- 模块:可复用的输入到输出组件。dspy.Predict 为基础预测模块;dspy.ChainOfThought 在回答前生成推理步骤(可通过 result.rationale 查看);dspy.ReAct 支持带工具的智能体式推理;dspy.ProgramOfThought 生成并执行代码进行推理。
- 优化器:使用训练数据自动改进模块。BootstrapFewShot 从示例中学习;MIPRO 迭代改进提示词;BootstrapFinetune 生成用于模型微调的数据集。
四、使用方式 基本流程为:配置语言模型(如 dspy.settings.configure(lm=lm))→ 定义签名 → 创建模块 → 调用。例如用 dspy.Claude(model="claude-sonnet-4-5-20250929") 配置模型,定义 QA 签名后通过 dspy.Predict(QA) 调用。 构建复杂系统时可继承 dspy.Module 实现多阶段流水线,例如 MultiHopQA 包含生成搜索查询、检索上下文、生成答案三个阶段;也可构建带优化器的 RAG 系统,使用 ChromadbRM 作为检索器。 评估方面,可自定义指标(如 exact_match、f1_score),使用 dspy.evaluate.Evaluate 在测试集上评估并对比优化前后的得分。 优化后的模型可通过 save 保存为 JSON,通过 load 加载。可通过 dspy.settings.configure(lm=lm, trace=[]) 启用追踪并检查提示词与响应。
五、最佳实践 从简单开始迭代:先用 Predict,需要时改用 ChainOfThought,有数据后再优化。使用描述性签名,避免模糊的输入输出命名。用有代表性的数据优化,训练集应覆盖不同任务类型。保存和加载优化后的模型。启用追踪进行监控和调试。
六、与其他方案对比 相比手工提示工程,DSPy 的提示工程和优化是自动的、数据驱动的;相比 LangChain,DSPy 在模块化、类型安全(签名)和可移植性上更高,学习曲线为中等偏高。适合有训练数据或能生成数据、需要系统性改进提示词、构建复杂多阶段系统、希望跨不同语言模型优化的场景;快速原型、简单链式调用或需要自定义优化逻辑时,可考虑其他方案。
七、资源 文档:https://dspy.ai;GitHub:https://github.com/stanfordnlp/dspy;Discord:https://discord.gg/XCGy2WDCQB;Twitter:@DSPyOSS;论文:"DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines"。
八、限制与注意事项 资料提示:版本相关细节可能已过时,应以所安装版本的官方文档为准;若指令中的函数、参数或端点在已安装版本中不存在,应查阅该版本文档并告知用户,不得臆造 API;输入、标识符或参数不明确时应询问用户或明确说明假设;不得向外部 API 发送隐私或敏感数据;涉及费用、共享 GPU、云配额或不可撤销操作前应先征得同意。