Promptfoo 是一个 AI 安全平台，定位为在开发阶段发现 AI 应用漏洞的工具。根据官方介绍，它受到 156 家《财富》500 强企业和全球 30 万以上开发者的信任。
用途 Promptfoo 的核心用途是 AI 安全测试与红队演练，帮助开发者在 AI 应用、智能体和 RAG 系统进入生产前发现并修复漏洞。
主要能力
- 面向智能体与 RAG 的自动化红队测试：Promptfoo 模拟真实用户，挖掘特定应用的漏洞。
- 针对目标生成定制攻击，覆盖：直接与间接提示注入、针对现有防护规则的越狱、数据与 PII 泄露、业务规则违规、智能体中不安全的工具使用、有害内容生成。
- AI 安全测试内置于开发工作流：从集成到修复，支持连接 AI 应用、智能体与工作流，接入 CI/CD 流水线（GitHub、GitLab、Jenkins 等），支持 MCP 与智能体框架，并可本地部署或云端使用。
- 大规模上下文感知攻击生成，官方称可创建数千个针对应用定制的攻击，并借助 30 万以上用户社区的实时威胁情报。
- 自动化程度高，官方称其深度自动化可超越人工编排的测试，并允许按业务定制攻击流程。
- 修复指导直接进入 Pull Request 与开发者工作流：在 PR 中显示安全发现、提供可执行的修复步骤、支持跨团队追踪修复。
- 持续监控。
- 建立在 AI 安全社区之上：官方称可获取实时威胁情报与创新，贡献者来自 OpenAI、Google、Microsoft、Amazon 等公司。
使用方式 官方描述其可嵌入开发流程：连接 AI 应用、智能体和工作流；在 CI/CD 中持续测试；在 Pull Request 与开发者工作流中接收修复指导。配置与测试的更多细节资料中暂未提供。
适用场景
- AI 应用与智能体开发团队在上线前进行安全测试。
- 需要在 CI/CD 中持续进行 AI 安全检测的组织。
- 关注提示注入、越狱、数据泄露、PII 泄露、业务规则违规、工具滥用、有害内容等风险的企业。
- 安全负责人需要深度与自动化兼备、能与现有工具集成并在企业规模落地的方案。
- 医疗、电信、零售和企业软件等行业。
限制 官方页面未提供具体价格、收费模式、免费额度、平台支持范围、部署细节或性能指标，以上信息暂未提供。
