Google DeepMind CEO Demis Hassabis 呼吁由美国主导成立一个全球 AI 监管机构，该机构将在前沿 AI 模型发布前进行评估，并在风险过高时协调暂停部署，目标是在今年年底前开始运作。 这一来自 AI 领域顶尖人物的提议表明，国际社会越来越认识到需要协调行动来管理日益强大的 AI 系统带来的风险，可能对未来全球 AI 治理产生塑造作用。 该监管机构将由独立专家和开源社区代表组成，Hassabis 已与特朗普政府、其他 AI 实验室以及欧洲官员进行了数月的沟通，并获得了积极反馈。
背景
前沿 AI 模型是指最先进的人工智能系统，如大型语言模型和多模态 AI，由 OpenAI、Anthropic 和 Google DeepMind 等领先组织开发。随着这些模型迅速发展，对潜在灾难性风险的担忧引发了进行主动监管的呼声。全球监管机构有助于防止安全标准逐底竞争，并确保负责任的开发。