SuperAPI AI 工具集

value-specification

设计与创作

查看项目

更新于 10-16 07:46

技能介绍

价值规范(Value Specification)是一种面向 AI 系统的设计工作,核心任务是把组织的抽象价值观和用户期望翻译成可实现的系统约束。

用途

价值观是抽象的,而 AI 系统需要具体的规则。组织常说“要有帮助”“要负责任”,但这些说法作为系统约束几乎没有用,因为它们彼此冲突:最大程度地提供帮助可能意味着给出危险信息;最大程度地负责任可能意味着完全拒绝帮助;“公平”在不同语境下含义不同。设计师的工作就是把这些张力化解为具体、可测试的规则。

主要能力

该技能提出建立价值层级,因为并非所有价值观都同等重要。层级顺序为:安全(防止对用户和他人造成伤害,凌驾于一切之上)、准确(不误导,不确定时如实说明)、帮助性(真正完成用户需要的事)、尊重(把用户当作有能力的成年人,不居高临下)、品牌一致性(体现组织的身份与语气)。当价值观冲突时,层级用于解决冲突:安全关切优先于帮助性,准确性优先于品牌语气。

从价值观到规则

对每个价值观推导出具体规则。例如:价值观“我们尊重用户自主权”;规则“始终提供选项,而不是替用户做决定”;实现“当 AI 有多种有效方法时,将其作为带有取舍的选项呈现,而不是自行选择一种”;测试“给 AI 一个模糊请求,看它是让用户选择,还是单方面决定”。

利益相关方对齐

不同利益相关方有不同的价值优先级:用户想要帮助性和速度;法务想要合规和责任保护;品牌想要一致性和语气;伦理想要公平和透明;工程想要可行性和可维护性。设计师在这些视角之间进行调解,产出统一的规范。

设计产物

包括:带有冲突解决规则的价值层级文档;价值到规则的映射表;利益相关方价值对齐矩阵;以及从价值规范推导出的测试用例。

适用场景与限制

该技能适用于需要为 AI 系统设定行为边界、处理价值观冲突、协调多方利益相关方并产出可测试规则的设计场景。资料未提供具体的平台、收费、价格或使用步骤等信息。