用途:DSPy(Declarative Self-improving Python)将手工提示工程转为编程语言模型,适合系统性优化提示、构建生产级 LLM 系统,以及实现 RAG、分类、结构化抽取等任务。
主要能力:以签名(Signature)声明输入输出接口,支持类型提示与字段描述;以模块(Module)承载推理模式,如 ChainOfThought、Retrieve(RAG)、ReAct、ProgramOfThought,并支持自定义 dspy.Module 组合流程。优化器可将高层程序编译为优化提示:BootstrapFewShot、BootstrapFewShotWithRandomSearch、MIPROv2、KNN FewShot、SignatureOptimizer;其中 MIPROv2 通过贝叶斯优化联合优化指令与少样本示例,有 light、medium、heavy 三种自动配置。另提供自定义指标与评估管线,支持精确匹配、模糊匹配、多准则及 LLM 作为评判。
使用方式:安装命令为 pip install dspy-ai;定义签名(如 class QA(dspy.Signature))、创建模块(如 dspy.ChainOfThought(QA)),再用 optimizer.compile(qa, trainset=examples) 优化,优化后可 save 保存为 JSON。示例中训练数据用 dspy.Example(...).with_inputs(...) 构造;MIPROv2 需先用 dspy.LM 配置语言模型并 dspy.configure(lm=lm)。
适用场景:小数据量快速优化(10-50 例)、中等数据量探索(50-300 例)、大数据量与生产系统(300+ 例);也适用于需要版本控制与跨模型复现的团队。
限制:资料未提供官方托管服务、定价、具体平台或 SLA 信息;性能提升数据来自资料引用的 2025 研究,非通用保证;优化耗时随模式变化(light 约 15-30 分钟、medium 约 30-60 分钟、heavy 约 1-3 小时),具体取决于任务与环境;示例中的 API 密钥、模型名称需按实际替换,资料未说明支持的全部模型与依赖版本。