SuperAPI AI 工具集

failure-taxonomy

通用与其它

查看项目

更新于 10-16 03:14

技能介绍

用途:Failure Taxonomy 是一套 AI 失败分类方法,用于把不同类型的失败区分开来,便于团队系统化地追踪、排序和处理。资料指出,幻觉、拒绝、语气不匹配并不相同,需要分类管理。

主要能力:按四大类划分失败。内容类包括幻觉、不准确、不完整、不相关、自相矛盾;行为类包括不当拒绝、缺失拒绝、语气不匹配、人设中断、过度生成;技术类包括延迟、截断、格式错误、工具失败、上下文丢失;安全类包括有害内容、隐私泄露、偏见表现、操纵。同时提供严重程度分级:Critical 需立即修复,High 数天内修复,Medium 数周内修复,Low 记录并批量处理。

使用方式:资料给出五步用法——记录时按类型和严重程度分类每个检测到的失败;按时间追踪失败类型频率;优先处理最高严重度、最高频的失败;按类型分组做根因分析以识别系统性问题;用失败模式指导护栏设计与提示改进。

设计产物:失败分类参考文档、失败记录模板、严重度分类评分标准、失败趋势仪表盘、根因分析协议。

适用场景:适合需要持续监控 AI 输出质量、建立失败记录与优先级机制的团队。

限制:资料未提供具体安装命令、代码示例、平台支持或收费信息,暂未提供。