SuperAPI AI 工具集

guidance-grammars

智能体与模型

查看项目

更新于 10-16 00:05

技能介绍

用途:该技能围绕 Microsoft 的 Guidance 库,讲解如何用语法约束 LLM 生成,并以范畴结构(对象、态射、积、余积)组织生成流程,适合需要结构化、可验证输出的场景。

主要能力:gen() 做受控 token 生成,支持 max_tokens、stop、temperature;select() 实现余积式多选一,把输出限制在给定选项内;gen(regex=...) 用正则约束提取(如邮箱);capture 命名绑定形成积类型;支持顺序组合、并行组合(多字段同时抽取)、递归语法(如 JSON 值/数组/对象)、条件生成、迭代改进与工具选择模式。

使用方式:安装 pip install guidance;加载模型如 models.OpenAI("gpt-4o");用 @guidance 装饰器定义程序,通过 lm += 逐步拼接提示与生成步骤,结果按 name 读取。资料还给出 GrammarFunctor 的 map、grammar_to_schema 到 Pydantic 模型、以及 fp-ts 中 Either/Kleisli 的概念映射。

适用场景:情感分类、信息抽取、JSON 等结构化输出、多字段分析、工具调用选择、多步推理链。

限制:资料未提供具体定价、平台支持范围、性能数据与完整 API 参考;示例依赖外部模型服务,实际可用性取决于所配置的模型与密钥。