信任校准关注的是让用户对 AI 形成“有依据的信任”,既不过度信任,也不信任不足。过度信任在 AI 出错时会造成伤害,信任不足则在 AI 正确时浪费其价值,这两种失败模式都不会体现在常规准确率指标中。
用途:为 AI 产品设计信任信号,让用户能逐轮更新自己的信任程度。影响用户即时信任的因素包括:表面置信度(AI 听起来多确定)、历史表现、风险可读性、来源可见性、人格设定(“专业”人格比“友好”人格更易获得信任)。
主要能力:识别信任失败模式,如谄媚导致的过度信任、置信度错配、防御性信任不足、权威崩塌、信任洗白(用高置信度格式包装低置信度输出)。AI 侧可通过与实际认知状态相称的置信标记、来源归属、替代方案呈现、失败透明、能力边界声明来塑造信任;用户侧则通过展示出错代价、建议验证阈值、承认差异来辅助校准。
使用方式:提供决策规则,例如高风险加低置信度时默认偏向信任不足;用户纠正后提高同类输出的保留度;绝不迎合用户预期抬高置信度;宁可说“我不知道”也不给自信的错误答案;猜测需标注;立场改变需明说。还给出反模式清单(普遍保留、置信度表演、以道歉建立信任、人格驱动置信度、静默更新、靠关联转移信任)以及信任校准矩阵和示例。
适用场景:需要用户判断 AI 输出可信度的交互式产品。限制:不适用于低风险娱乐性 AI、输出可直接核验的确定性产品,以及首次接触的引导阶段。资料未提供具体安装命令、收费或平台信息。