Frontier Model Forum(前沿模型论坛)是一个由 Anthropic、Google、Microsoft 和 OpenAI 共同发起的行业组织,专注于确保前沿 AI 模型的安全与负责任开发。该论坛为非营利机构,由行业支持,旨在应对公共安全和国家安全面临的重大风险。
用途 论坛汇聚成员公司的技术与运营专长,致力于确保最先进的 AI 系统保持安全可靠,从而满足社会最紧迫的需求。其工作围绕三大核心使命展开:识别最佳实践并支持标准制定;推进科学与独立研究;促进政府、学术界、公民社会与产业界之间的信息共享。
主要能力 论坛发布技术报告,例如《前沿能力评估》(Frontier Capability Assessments)。该报告讨论了对前沿模型实施能力评估的新兴行业实践,目的是确定模型是否具备可能增加公共安全与安全风险的能力,例如协助开发化学、生物、放射或核(CBRN)武器、高级网络威胁或某些类别的先进自主行为。报告指出,由于评估科学正在快速发展,该概述仅代表当前实践的阶段性快照。
核心目标 论坛致力于将愿景转化为行动,具体目标包括:推进 AI 安全研究,以促进前沿模型的负责任开发、降低风险,并实现独立、标准化的能力与安全评估;识别最佳实践,建立前沿 AI 安全与安保的最佳实践,并就威胁模型、评估、阈值和关键风险的缓解措施形成共识;跨部门协作,与学术界、公民社会、产业界和政府合作,推进前沿 AI 公共安全与安保风险的解决方案;信息共享,促进关于前沿 AI 安全与安保独特挑战的信息交流。
使用方式 论坛通过成员公司的参与、研究合作、标准制定和信息共享机制开展工作。官方文本邀请各方加入,共同将这些目标变为现实,塑造安全可靠的 AI 未来。
适用场景 适用于关注前沿 AI 安全与治理的研究人员、政策制定者、产业界人士以及公民社会组织,为其提供合作、研究和信息共享的平台。
限制 关于论坛的会员资格、具体参与方式、收费情况、活动安排等细节,官方文本暂未提供。