透明性模式用于在 AI 产品中让系统的知识、局限与置信度对用户可见,目标是建立“有依据的信任”,而非盲目信任。
需要透明的五类信息:来源(训练数据、检索文档、用户输入还是推理)、置信度(有充分依据还是猜测)、局限(不知道什么、不能做什么、知识边界在哪)、过程(如何得出该输出、经过哪些步骤)、身份(这是 AI 而非人类,不应模糊)。
常见模式包括:置信度指示(如“我比较确定”与“我不太确定”)、来源标注、推理轨迹、局限披露、模型卡(说明 AI 是什么、如何工作、擅长与不擅长什么)、不确定性高亮。
透明程度需要校准:用户越专业、任务风险越高、输出越不确定,越应展示更多细节;反之可简化。也可让用户按需展开细节,而非一次性全部呈现。
反模式包括:表演式透明(推理轨迹并未真正解释决策)、把免责声明埋在无人阅读的细则里、虚假自信、不解释的拒绝(“我无法帮助”)、透明性作秀。
设计产物可包括:按功能划分的透明级别规范、置信度沟通指南、来源标注模式、局限披露模板。资料未提供具体安装命令、代码示例、收费或平台信息。