HackAPrompt 是一个以 AI 红队测试为主题的黑客松与竞赛平台,官网将其定位为“史上最大的 AI 红队黑客松”。其核心口号是“入侵 AI,赢取奖金”,并称参与者可以“诱导 AI 模型”来赢取奖金,平台自称是全球最大的 AI 黑客平台,已累计送出超过 10 万美元奖品,并获多家 AI 领域知名机构赞助。
主要能力与赛道: 平台提供四个赛道供参赛者选择。第一,与主播及速通玩家 PointCrow 合作,推动 AI 角色达到极限。第二,通过独特场景测试技能,包括搞砸手术、操纵 AI 角色以及破解谋杀谜案等创意挑战。第三,通过实践教程系列学习提示注入与越狱的基础知识。第四,从最先进的 AI 中诱导化学、生物、放射与爆炸类信息。此外,平台还设有间接提示注入相关任务,涉及欺骗智能体、窃取个人信息并造成危害。
数据开放: HackAPrompt 已开源其 Pliny 赛道的全部提交内容,供研究者深入数据并查看性能分析。
使用方式与社区: 平台设有常见问题解答页面,并围绕 AI 安全建立社区,提供每周工作坊、黑客直播、嘉宾演讲、奖品赠送与免费资源。其称运营着最大的 AI 安全爱好者 Discord 社区,邀请安全研究员、AI 爱好者与黑客共同参与,塑造 AI 安全的未来。
适用场景: 适合对提示注入、越狱、间接提示注入等 AI 安全议题感兴趣的安全研究人员、AI 爱好者与黑客,用于竞赛、学习与社区交流。
限制: 关于具体参赛流程、赛道规则细节、奖金发放方式、平台技术架构、是否收费及价格等信息,资料暂未提供。