SuperAPI AI 工具集

grey-haven-llm-project-development

智能体与模型

查看项目

更新于 10-15 21:55

技能介绍

用途:该技能提供一套构建生产级 LLM 应用与流水线的方法论,核心原则是先手动验证,再围绕非确定性的 LLM 核心搭建确定性流水线。

主要能力:

  1. 任务-模型匹配分析:判断任务是否适合 LLM,适合的包括综合归纳、主观判断、容错、自然语言理解、创意输出;不适合的包括精确计算、实时要求、确定性输出、结构化数据查询、高频调用。
  2. 手动原型验证:在自动化前,用目标模型手动测试一个真实样例,确认输出质量、边界情况与单次成本。
  3. 流水线架构:确定性阶段包裹一个非确定性核心,分为 Acquire(获取)、Prepare(格式化)、Process(LLM 推理)、Parse(解析)、Render(输出)五阶段,附 TypeScript(TanStack Start)与 Python(FastAPI)示例。
  4. 文件系统作为状态机:以文件存在与否判断流水线状态,支持幂等重启、可调试、成本节约与并行安全。
  5. 结构化输出设计:向模型披露解析意图,使用 JSON 或分节标记,配合 Zod/Pydantic 校验。
  6. 架构精简:减少工具数量可提升成功率(案例中从 17 个工具降至 2 个,成功率由 80% 升至 100%)。
  7. 成本估算:提供按 token 与模型定价估算总成本的函数示例。

使用方式:技能内含 references、examples、templates、checklists 等文档,可复制 pipeline-template.ts 或 pipeline-template.py 起步,按五阶段组织代码,并用 llm-project-checklist.md 做上线前检查。

适用场景:构建 LLM 驱动的分析、分类、摘要、推荐、内容生成等应用与批处理流水线。

限制:资料未提供具体安装命令、依赖版本、完整 API 细节及实际效果保证;示例中的模型名称与定价为资料所载,可能随时间变化。