SuperAPI AI 工具集

guardrails-developer-create-guardrails

智能体与模型

查看项目

更新于 10-16 07:24

技能介绍

用途:该技能面向“创建护栏配置”的开发者,而非单纯查文档。目标是先产出一个最小可运行配置,再依据用户的风险点、模型、应用形态与测试用例逐步迭代。需要查权威文档时改用 guardrails-developer-guide,不在本技能中复制完整文档。

主要能力:先询问少量必要问题以选择起点(守护的应用类型、所用模型/供应商或框架、优先处理的风险、想要基于目录的护栏、Colang 流程还是 Python 集成),再按目标映射到起始模式:拦截有害内容用内容安全输入/输出护栏;限制话题用话题控制;检测越狱用越狱防护或启发式;遮蔽或检测敏感数据用 PII 检测护栏;缓解 RAG 幻觉用检索/输出事实核查;控制对话流程用 Colang 对话流;守护工具调用用执行护栏与动作校验;对接 LangChain/LangGraph 用 RunnableRails 或中间件。

使用方式:建议标准配置目录,含 config.yml(模型、护栏、流式、追踪)、prompts.yml(自定义提示模板)、rails.co(Colang 流程)、actions.py(Python 动作),仅创建需要的文件;编辑既有应用时保留原项目布局。迭代方式为:先定一个护栏目标,写最小配置,补 2—3 条测试提示(应通过、应拦截或修改、边界情况),通过文档给出的 Python API、CLI 聊天或服务器路径运行并检查结果。CLI 验证可用 nemoguardrails chat --config <config-path>;嵌入应用可用 RailsConfig.from_path(...) 与 LLMRails(...)。

限制与注意:涉及联网、凭据、付费 API、Docker 或长时服务时要先征得同意,不得静默引入真实供应商调用;切勿索取真实 API 密钥,使用 <NVIDIA_API_KEY>、<OPENAI_API_KEY>、<YOUR_ENDPOINT> 占位符;仓库贡献者的单元测试不得调用真实 LLM 或供应商服务,应使用测试替身与 mock,并遵循 AGENTS.md。文档加载使用 https://docs.nvidia.com/nemo/guardrails/ 下的 Markdown 与 llms.txt,向用户展示引用时用不带 .md 的规范链接。返回内容应包含:所选起始模式及理由、需创建或编辑的文件、配置或代码片段、验证命令或脚本、测试提示与预期行为、首版可用后的后续改进。