用途:对聊天机器人、智能体、RAG 系统或 copilot 在上线前做对抗性测试;设计安全评估套件与对抗测试装置;复现已报告的提示注入或越狱漏洞;事件后验证过滤与加固等缓解措施;评估偏见、有害输出与数据外泄风险;为 AI 安全测试确定交战规则与严重度标准。不适用于撰写公司 AI 政策或风险治理、构建生产 LLM 功能或 RAG 管线、非 LLM 的网络/AD/基础设施渗透、非 LLM 的 Web/API OWASP 测试、企业对手模拟与紫队、二进制/固件/协议逆向、CI/CD 管线安全。
主要能力与工作流:一是范围与交战规则,明确目标(模型、应用面、工具、数据存储),取得书面授权与时间窗,约定范围外事项与成功标准,准备不含生产客户数据的安全测试环境,参考 references/engagement_scope.md。二是 LLM 应用威胁建模,涵盖提示注入、越狱、工具滥用、数据外泄、供应链、拒绝服务,参考 references/attack_catalog.md。三是测试执行,分基线、自动化扫描(攻击集与模糊变异)、人工创意、工具/RAG 间接注入、回归五个阶段,记录输入、输出、工具调用、延迟与护栏是否触发,参考 references/testing_harness.md。四是报告,含标题与严重度、最小复现步骤、脱敏证据、受影响组件、建议缓解、复测标准,参考 references/reporting.md。五是缓解验证,针对输入输出过滤、系统提示加固、工具允许列表、人工审批门槛做绕过复测,参考 references/mitigations.md。
限制:资料未提供具体安装命令、代码示例、平台支持、收费或价格信息,暂未提供。需注意仅限授权测试并合乎伦理使用资料中的测试提示。