SuperAPI AI 工具集

ai-feature-product-risk-review

智能体与模型

查看项目

更新于 10-16 02:11

技能介绍

用途

该技能用于将存在风险的产品、运营、信任或市场问题,转化为带有负责人、门禁、指标与恢复路径的具体交付物。它面向 AI 功能的产品风险设计与审计,覆盖用户价值、模型局限、幻觉、自动化边界、人工审核、隐私、安全与评估等方面。

主要能力

  • 识别 AI 任务、出错时的用户危害、模型/输入/输出边界、自主级别、数据敏感度与业务指标。
  • 阅读 references/ai-feature-risk-patterns.md 参考文件。
  • 映射质量、安全、隐私、成本、延迟、滥用、支持、透明度与回退要求。
  • 区分辅助建议、生成内容、分类、排序、自动化与智能体动作。
  • 产出风险矩阵、评估计划、UI 护栏、发布门禁与支持/事故路径。

使用方式

按工作流执行:先识别 AI 任务、用户危害、模型/输入/输出边界、自主级别、数据敏感度与业务指标;再阅读参考文件;随后映射各类要求;区分不同 AI 功能类型;最后产出风险矩阵、评估计划、UI 护栏、发布门禁与支持/事故路径。

输出格式包含三部分:

  1. AI 功能上下文:任务 / 自主级别 / 数据 / 危害。
  2. 风险矩阵表格,列为:风险、失败模式、用户影响、控制措施、评估/指标、负责人。
  3. UI 与发布门禁(透明度/回退/审核/标记)以及支持/事故路径(案例类型 -> 分诊/证据/恢复)。

适用场景

适用于需要将高风险的产品、运营、信任或市场问题转化为具体交付物的场景,尤其是涉及 AI 功能的产品风险设计与审计。

限制

  • 不适用于基础模型无需该技能特定交付物契约即可处理的通用建议。
  • 不得隐藏不确定性,或在未经验证时将生成输出呈现为已核实事实。
  • 不得在没有适当门禁的情况下自动化不可逆、财务、法律、安全、账户或影响隐私的操作。
  • 不得在声明的目的、保留与同意边界之外使用用户/私人数据。
  • AI 功能在广泛发布前需要评估、监控、回退与支持手册。