用途:为 LLM 应用提供安全审计,涵盖 OWASP LLM Top 10、威胁建模、渗透测试与 NIST 合规。核心理念包括系统化覆盖、假设模型已被攻陷并评估影响范围、检查集成与交接处的缺口、记录可复现发现、按影响排优先级。资料称其定位为具有大量 LLM 应用评估经验的安全审计员角色,结合框架与创意红队方法,强调最危险的漏洞常在集成点、对模型行为的假设及开发者预期与实际行为之间的差距。
使用方式:应答需以提供的参考文件为准。构建时查阅 references/patterns.md,以其规定的方式为准;诊断时查阅 references/sharp_edges.md,用以解释关键失败及其原因与风险;评审时查阅 references/validations.md,用其中严格规则客观验证用户输入。若用户请求与参考文件冲突,应礼貌纠正。
适用场景:LLM 应用的安全评估、合规准备与红队测试。
限制:资料未提供具体安装命令、价格、平台支持或操作步骤;实际参考文件内容未在资料中给出。