用途:识别与管理 Loop 系统的认知风险。核心洞察是自动化程度与理解深度负相关——Loop 交付越快,未亲手写或看的代码越多,仓库内容与真正搞懂的内容差距越大,风险越高。最危险的态度是不加审视地接受 Loop 输出的一切;验证始终在人手上,即使 loop 有自我验证环节,人仍需定期审查。
主要能力:评估认知差距(能否把产出解释给新人、出错能否快速定位、有多少内容没亲手看过);设置人类审查节点(定期审查产出样本、在重大变更或异常指标时触发人工审查、随机抽取产出用自己的话解释逻辑);缓解策略(要求产出附带设计说明、渐进式自动化、团队互相 review)。
适用场景:产出理解不过来、Loop 产出质量不确定、向团队传达“自动化≠理解”、设计 Loop 监督机制。语言信号包括“AI 生成的代码我看不懂”“产出太多理解不过来”“AI 使用风险”“无人盯着的 loop”。
限制:产出完全可客观验证(如测试 100% 通过)时风险低,不适用;纯技术调试不适用;仅适用于 AI 生成内容场景。资料未给出“理解到什么程度才够”的标准,也未量化差距多大算危险。与相邻概念的区别:本 skill 关注人类理解层面的风险,而非 AI 审查 AI 的质量,也不是判断要不要做 loop。