SuperAPI AI 工具集

think-red-team-light

通用与其它

查看项目

更新于 10-16 03:48

技能介绍

用途:当某个计划或论点获得过于轻松的共识、缺少真正的反方论证时,该技能暂停合作立场,针对单一提案构建最强反驳,用于在做出强推荐前进行压力测试,或检验智能体自身自信输出的可靠性。

主要能力:一是公平陈述被攻击的论点(以其最强诚实形式);二是构建最强反对意见,采取真正的对抗立场,指出最薄弱处、知情批评者或竞争者会攻击的点、以及不利证据,强调 steelman 而非 strawman;三是按“若成立造成的损害”而非“提出的难易”排序;四是对最重要的反对意见说明论点必须如何回应、以及是否可能回应;五是给出裁决,指出哪些反对意见是决定性的、哪些可承受。

使用方式:按 references/TEMPLATE.md 模板输出,交付物是带裁决的排序反对意见,而非散文。步骤为:陈述论点、构建最强反对、按力度排序、逐条测试、给出裁决。高利害场景下需注明是否应寻求真实独立的反方意见。

适用场景:计划共识过于容易、无人真正反驳时;承诺强论点或建议之前;压力测试智能体自身输出时。

限制:不适用于团队更需要对齐与认同而非又一份批评时;不适用于需要随时间分析失败原因(应使用 premortem)或需要多视角综合(应使用 parallel perspectives)时;若只会产生表演性唱反调而非最强反对意见,也不应使用。资料明确指出,AI 红队是构造性、角色扮演的异议,不等同于真实异议(Nemeth),因此它是盲点发现工具,不能替代真实的反方意见者;高利害场景应寻求真实独立异议。证据为人类受试研究迁移,非 AI 验证。