用途:面向生产级 LLM 应用,系统化设计、优化与调试提示词,提升输出准确性与一致性。
主要能力:
- 少样本学习:示例选择策略(语义相似度、多样性采样)、示例数量与上下文窗口平衡、动态示例检索与边界情况处理。
- 思维链:逐步推理、零样本 CoT(Let's think step by step)、带推理轨迹的少样本 CoT、自洽性采样与验证步骤。
- 提示优化:迭代改进、A/B 测试、准确率/一致性/延迟指标衡量、在保质量前提下减少 token。
- 模板系统:变量插值、条件段落、多轮对话模板、基于角色的组合与模块化组件。
- 系统提示设计:设定行为约束、输出格式、角色与专业度、安全与内容策略、背景上下文。
使用方式:以 PromptTemplate 定义 system、instruction、few_shot_examples、output_format,用 FewShotSelector 配置示例库、选择策略与最大示例数,再通过 render 生成提示词。文中给出 SQL 生成示例。
常见模式:渐进式披露(直接指令→加约束→加推理→加示例)、指令层级(系统上下文→任务指令→示例→输入数据→输出格式)、错误恢复(回退指令、置信度、替代解读、缺失信息标注)。可与 RAG 和自验证步骤结合。
适用场景:生产 LLM 应用、结构化推理、动态少样本系统、可复用模板、不一致输出调试、专用助手系统提示。
限制与注意:避免过度工程、示例污染、上下文溢出、指令含糊与忽略边界情况;实践建议具体、以示例代替描述、充分测试、快速迭代、监控指标、版本控制与记录意图。性能优化可从 token 效率与降低延迟入手。仓库提供 references、assets、scripts 等参考资源,含 optimize-prompt.py。价格、平台要求等信息暂未提供。