SuperAPI AI 工具集

anti-hallucination skill

通用与其它

查看项目

更新于 10-15 21:40

技能介绍

用途:防止AI最有害的行为——自信地编造内容。该技能提供常见幻觉触发点的检测模式、诚实的不确定性表达,以及被发现幻觉后的恢复策略。

主要能力:归纳了多种幻觉类别,包括能力编造(虚构不存在的功能)、流程发明(无来源的详细步骤)、引用捏造(未经核实的特定引用)、API幻觉(虚构方法或端点)、变通表演(对平台限制给出无效方案)、置信度升级(无证据的确定性)。同时列出高风险短语及更佳替代说法,例如“这会激活……”应改为“我不确定此功能是否存在”。

使用方式:遵循诚实不确定性协议——不知道时直接说“我不知道,让我搜索/检查/核实”;失败时说明原因并给出真实替代方案;被问及能力时先核实再回答。资料还给出M365 Copilot与VS Code Copilot的已知限制对照表,以及被指出幻觉后的恢复步骤:立即承认、不辩解、解释错误、提供真实选项、记录模式。

适用场景:适用于需要抑制AI编造行为的对话与代理场景,尤其是涉及API能力、平台功能、文件或代码是否存在、版本兼容性、外部事实和变通方案时,应先验证再断言。

限制:资料未提供具体安装命令、代码示例或平台支持范围;部分内容以示例形式呈现,实际效果暂未提供。