用途
该技能用于将存在风险的产品、运营、信任或市场问题,转化为带有负责人、门禁、指标与恢复路径的具体交付物。它面向 AI 功能的产品风险设计与审计,覆盖用户价值、模型局限、幻觉、自动化边界、人工审核、隐私、安全与评估等方面。
主要能力
- 识别 AI 任务、出错时的用户危害、模型/输入/输出边界、自主级别、数据敏感度与业务指标。
- 阅读 references/ai-feature-risk-patterns.md 参考文件。
- 映射质量、安全、隐私、成本、延迟、滥用、支持、透明度与回退要求。
- 区分辅助建议、生成内容、分类、排序、自动化与智能体动作。
- 产出风险矩阵、评估计划、UI 护栏、发布门禁与支持/事故路径。
使用方式
按工作流执行:先识别 AI 任务、用户危害、模型/输入/输出边界、自主级别、数据敏感度与业务指标;再阅读参考文件;随后映射各类要求;区分不同 AI 功能类型;最后产出风险矩阵、评估计划、UI 护栏、发布门禁与支持/事故路径。
输出格式包含三部分:
- AI 功能上下文:任务 / 自主级别 / 数据 / 危害。
- 风险矩阵表格,列为:风险、失败模式、用户影响、控制措施、评估/指标、负责人。
- UI 与发布门禁(透明度/回退/审核/标记)以及支持/事故路径(案例类型 -> 分诊/证据/恢复)。
适用场景
适用于需要将高风险的产品、运营、信任或市场问题转化为具体交付物的场景,尤其是涉及 AI 功能的产品风险设计与审计。
限制
- 不适用于基础模型无需该技能特定交付物契约即可处理的通用建议。
- 不得隐藏不确定性,或在未经验证时将生成输出呈现为已核实事实。
- 不得在没有适当门禁的情况下自动化不可逆、财务、法律、安全、账户或影响隐私的操作。
- 不得在声明的目的、保留与同意边界之外使用用户/私人数据。
- AI 功能在广泛发布前需要评估、监控、回退与支持手册。