用途
该技能用于审查和加固 AI 生成的代码以及基于 LLM 的应用，帮助识别和防范其中的安全漏洞。它覆盖 LLM 应用的 OWASP Top 10、安全编码模式，以及 AI 特有的威胁模型。
主要能力
- 针对 AI 生成代码的安全审查与漏洞识别。
- 覆盖 LLM 应用的 OWASP Top 10 相关风险。
- 提供安全编码模式，指导应当如何构建。
- 提供 AI 特有的威胁模型，包括提示注入、模型投毒、供应链风险等。
- 提供诊断能力，解释关键失败及其成因。
- 提供审查能力，依据严格规则和约束客观验证用户输入。
使用方式
该技能要求将提供的参考文件作为该领域的事实依据：
- 创建时：始终查阅 references/patterns.md，该文件规定应当如何构建；若其中存在特定模式，则忽略通用做法。
- 诊断时：始终查阅 references/sharp_edges.md，该文件列出关键失败及其原因，用于向用户解释风险。
- 审查时：始终查阅 references/validations.md，其中包含严格规则和约束，用于客观验证用户输入。
若用户请求与这些文件中的指导冲突，应依据参考文件中的信息礼貌纠正。
核心原则
- 永不信任 AI 输出，验证一切。
- 纵深防御，覆盖提示、模型、输出和运行时各层。
- AI 是不可信输入源，应像对待用户输入一样对待它。
- 供应链很重要，包括模型、数据集和依赖。
- 自动化检测，人工审查无法规模化。
适用场景
适用于审查 AI 生成的代码、评估 LLM 应用安全性、诊断 AI 相关安全失败、以及依据既定模式与规则进行安全验证的场景。
限制
资料未提供具体的安装命令、平台支持、收费方式、价格或效果数据，这些内容暂未提供。