用途:该技能提供一个决策论框架,用于推理“嵌入式智能体”——即那些处于自己所建模并行动的环境之中、无法从系统外部进行推理的智能体。适用于自指系统、高优化压力场景、有限智能体面对超出自身容量的环境、多层级优化与价值学习/稳健授权问题。
主要能力:
- 自指检查:当智能体必须推理包含自身的系统时,提示使用嵌入式框架并预期逻辑悖论;否则可用标准二元模型。
- 优化压力评估:按低/中/高/极高压力,分别对应简单代理稳定、极端 Goodhart(边缘情况利用)、对抗性 Goodhart 与 mesa 优化器。
- 模型容量与领域大小比较:判断可实现性假设是否成立,若环境大于智能体容量则按不可实现情形规划超出参数不确定性的模型误差。
- 子系统智能检查:识别 mesa 优化风险与稳健授权问题。
- 故障诊断:提供代理博弈诊断树(回归型、因果型、极端型、对抗型 Goodhart)与错位诊断(mesa 优化器、规范缺口、价值学习失败)。
- 质量门:列出完成嵌入式能动性分析所需检查项,如自指悖论、Goodhart 机制、mesa 优化风险、可实现性、反事实推理策略、对齐传递性、代理有效性边界、价值规范缺口等。
使用方式(来自资料):按“决策点”流程在设计智能体系统和分析系统失败时逐项判断;遇到简单优化、一次性决策或无优化压力系统时不应使用本框架,而应改用标准决策论、强化学习、贝叶斯决策论或常规软件工程实践;可直接委托给其他技能,如 ai-alignment-toolbox、bayesian-reasoning、systems-thinking、formal-methods、inner-alignment-analysis。资料给出推荐器 mesa 优化与组织指标博弈两个示例,并强调 Goodhart 机制转换不连续、任何有限代理集合在足够优化压力下都可能被博弈。
限制:资料未提供具体安装命令、URL 外的平台信息、收费或价格;该技能为概念性/分析性框架,不是可执行代码库;不适用于智能体与环境边界清晰的简单优化问题。