GovAI(Governance AI)是一家聚焦先进人工智能治理的研究机构,其核心使命是帮助决策者应对迈向先进AI世界过程中的风险与机遇。
用途方面,GovAI 通过产出严谨的研究成果并培养相关人才,为政策制定者和决策者提供参考,协助其应对AI治理挑战。
主要研究与议题包括:
- AI研发自动化若触发智能爆炸的假设分析:探讨智能爆炸可能将多年进展压缩至数月,并对监督、控制和治理带来的紧迫挑战。
- 美国工人对AI引发就业 displacement 的适应能力:构建职业层面的适应能力指数,衡量与应对相关变化有关的劳动者特征。
- 前沿AI的嵌入式评估:探讨嵌入式评估如何实现对依赖内部系统和实践的风险进行更深入、更灵活的评估。
- Anthropic 的 RSP v3.0 分析:解读其负责任扩展政策(管理灾难性风险的框架)迄今最重大的一次更新,说明运作方式、变化内容及反思。
- 2025年度报告。
- 政府在提供AI代理基础设施中应扮演的角色:指出私营主体目前在提供使AI代理有用且安全所需的大部分系统和协议方面处于有利地位,但政府仍可能发挥重要作用。
使用方式与适用场景:资料未提供具体产品功能、使用步骤或平台入口,暂未提供。
限制:资料未说明收费、价格或使用限制,暂未提供。