用途:调试经 OpenVINO GGUF 前端或 ggml-openvino 后端运行的 GGUF 模型出现的错误或退化输出,适用于模型能转换但结果不对的场景。
主要能力与依据:需先阅读 src/frontends/gguf/docs/debugging_accuracy.md,其中包含粗到细的二分策略、ggml-CPU oracle 技术、bug 原型目录及可推广经验、调试环境变量与检查清单。
首要规则:任何精度结论都必须与真实 llama.cpp CPU 实现对比,不能使用手工推导的参考值;若要写出某个算子的数学期望,应从 ggml 生成。
使用方式:按顺序执行二分步骤,在它们把 bug 逼到角落之前不要打开调试器;当出现余弦断崖或动态形状崩溃时,先对照 bug 原型目录。
限制与注意:修复共享路径后(尤其是 VIEW 或 op_case 谓词),需重跑其他受支持的架构,确认其分类与输出未变化。其他细节暂未提供。