SuperAPI AI 工具集

think-speculative-harms-anti-goals

设计与创作

查看项目

更新于 10-16 03:48

技能介绍

用途:用于审视“设计成功”本身带来的伤害,而非项目失败风险。它假设功能上线、按设计运行并规模化,推演由此对第三方(包括从未选择成为用户的人)造成的伤害,并把每种伤害转化为“反目标”——产品承诺永不做出、启用或优化的具名结果。

主要能力:以成功为锚点叙述近未来具体场景;列出受害方,特别关注非用户;追问恶意滥用者(跟踪者、诈骗者、数据经纪人、施虐前任、威权买家)及其具体滥用路径;将伤害转为反目标,再落实为需求、验收标准、默认设置或评审门禁,并指明其在需求或流程中的存放位置。最终产出反目标登记表,而非散文或风险排序表。

使用方式:先一行写明焦点设计与成功锚点;再写具体近未来伤害场景;列出受害方与滥用者路径;逐条转为反目标;为每条反目标指定设计含义与归属位置;按 references/TEMPLATE.md 输出登记表,并保留预置的证据说明。

适用场景:推荐与排序、位置与在线状态、数据收集与推断、定向投放、内容放大、面向弱势群体的自动化;团队风险机制只关注项目本身;抽象伦理原则难以落地;决策重大且难以逆转,反目标确实会被绑定进需求或评审。

限制:不用于项目失败风险(应使用 think-premortem);不用于已发生且有记录的伤害(应做事件分析与补救);不用于琐碎或完全可逆的决策;若反目标不会被绑定进设计,则沦为伦理表演;不提供完整对抗覆盖保证,系统性安全覆盖应使用结构化威胁建模;不用于生成合规产物。证据为 A 级轶事性,来自人类课堂与工作坊,无对照或结果研究,也未研究 AI 智能体执行该动作;价值在于强制纪律并产出可检查的绑定产物,而非任何效果承诺。