SuperAPI AI 工具集

dag-hallucination-detector

智能体与模型

查看项目

更新于 10-15 20:30

技能介绍

用途:检测智能体输出中的虚构内容、虚假引用和不可验证主张,通过系统化核验与一致性分析给出判断。

主要能力:提取引用与事实性主张;对 URL 引用做可疑模式识别与网络连通性检查(404/错误可判定为幻觉);对学术引用做格式匹配与交叉比对;识别逻辑不可能项(如负计数、无增长语境下超过 100% 的统计、把未来日期当作历史事实);检测内部矛盾(同一指标数值不一致、相互对立的断言);识别虚假精度(4 位以上小数)、含糊研究引用与整数式主张等模式。

使用方式:按决策流程处理输入内容,先判断是否含引用,再提取事实性主张并逐项核验。置信度阈值:≥0.9 阻断输出并要求人工复核;0.7–0.89 标记警告并附注;0.5–0.69 警告但继续;<0.5 仅记录模式。完成后按质量门检查 URL 连通性、引用格式、数值逻辑、内部一致性、时间主张、可疑精度与跨段矛盾,并给出低/中/高/严重风险等级,每条发现需含位置、置信度与证据。

适用场景:智能体生成内容的事后核验、引用与统计主张审查、跨段落一致性检查。

限制:不用于通用内容校验、置信度评分、语法风格检查、领域专业核验、生成过程实时事实核查、法律或医学准确性验证、主观观点评估,也不做引用格式修正;领域事实核验需升级给相应专家。资料未提供安装命令、价格与平台信息。