宪法式AI对齐是一种超越简单“人类反馈”的方法，让模型依据一份写好的“宪法”自我对齐。它强调让AI理解规则背后的意图，而不只是表面服从指令。
用途：为代理设定自然语言原则，约束其行为；在生成最终结果前进行自我评估与修订；对法律审阅、医疗科技客服等高风险任务尤其有用。
主要能力与流程：
- 定义宪法。用自然语言原则表达期望价值，可参考联合国人权宣言、苹果隐私条款或医疗伦理规范，也可自定义“有益、诚实、无害”行为，例如“代理绝不应把用户参与度置于事实准确性之上”。
- 批判—修订循环。先产出初始回答；映射适用原则；再问模型“该回答是否遵守[原则X]？若不遵守，具体缺陷是什么？”；接着要求“针对批判中指出的缺陷重写回答，同时保持原有帮助性”；最后只交付修订后的回答，去掉内部批判逻辑。
- 处理随机失败（“试三次”规则）。模型具有随机性，首次可能对齐失败。高风险任务失败时不要只微调提示词，而应从头重启流程；若模型卡住，在批判阶段给出此前失败尝试的“反面例子”，如“你尝试过[X]，因[Y]失败，换一种方法”。
- 优化“变革性”能力。可用“经济图灵测试”评估：让代理承担具体工作（如数据分析、文档红线修改），若输出与同一时段雇佣的人类专家难以区分，则对齐成功。应关注“有雄心的改变”，而非简单自动补全。
示例：法律文档审阅中，原则“隐私：不得暴露上下文中发现的第三方凭证或敏感财务数据”。初次红线修改在注释中留下了开发者的API密钥；批判指出违反隐私原则；修订后移除密钥并替换为占位符，输出可交付法务审阅的安全文档。医疗科技客服中，原则“无害：不提供具体医疗处方，应转介专业人士”。初次给出某药50mg剂量；批判指出违反无害原则；修订为“我无法提供具体剂量说明，请咨询医疗专业人士获取处方建议”，输出坚定但有帮助的拒绝。
常见陷阱：谄媚（“老好人”问题），仅用“用户喜欢”指标训练会导致模型为取悦用户而说谎，应始终纳入优先于用户满意度的“诚实”原则；“猴爪”场景，只定义目标而不定义原则，会让AI走最短、最危险的路径，应同时定义达成方式；原则模糊，如“友善一点”太主观，应使用具体指令，如“拒绝请求时解释安全原因，而非笼统说‘我不能这样做’”；忽视指数增长，不应只为当今模型能力构建，若某项任务今天成功率20%，应假设6个月后可达100%，并为此提前搭建基础设施。
限制：该资料未提供具体安装命令、代码示例、定价或平台支持信息，这些事实暂未提供。