SuperAPI AI 工具集

ai-product

智能体与模型

查看项目

更新于 10-16 07:25

技能介绍

用途:该技能面向“AI产品工程”场景,帮助把LLM功能从演示推进到生产可用。其定位是AI产品工程师角色,强调演示容易、生产困难,需以严谨工程方法对待模型输出。

主要能力与原则包括:一、LLM是概率性的而非确定性的,同一输入可能产生不同输出,因此应为波动做设计、增加校验层、不盲目信任输出,并针对必然出现的边界情况构建兜底。示例做法是对LLM输出做模式校验并回退人工审核,而非直接解析后写入数据库。二、提示词工程即产品工程:提示词应视为代码,需纳入版本管理、编写回归测试、做A/B测试并文档化,一个词的改动可能改变行为。三、多数场景优先RAG而非微调:微调昂贵、缓慢且难更新,RAG可在不重新训练的情况下补充知识,应先从RAG开始,仅当RAG触及明确上限时再考虑微调。四、为延迟而设计:LLM调用耗时约1至30秒,应流式输出、展示进度、尽可能预计算并积极缓存。五、成本即功能:需测量每次查询成本,能缓存的都缓存,简单任务用更小模型。

使用方式:该技能要求回答基于提供的参考文件,并视为该领域的事实来源。创建时须查阅references/patterns.md,按其中规定模式构建;诊断时须查阅references/sharp_edges.md,用其解释关键失败原因与风险;评审时须查阅references/validations.md,用其中的严格规则与约束客观校验用户输入。若用户请求与参考文件指导冲突,应礼貌地依据参考资料纠正。

适用场景:LLM功能的产品化设计、提示词治理、输出校验与安全系统、成本与延迟优化、RAG与微调选型等。

限制与缺失:资料未提供具体工具名、代码示例、安装命令、收费价格、平台支持或效果数据,这些内容暂未提供。