#AI governance

OpenAI 公布了一套国家安全原则，明确禁止将其技术用于自主武器、大规模监控以及高风险自动化决策。该公司还通过 Daybreak 网络防御计划扩大了与美国盟友的防御合作，包括与澳大利亚、加拿大、日本和欧盟机构的合作。 这为国家安全领域的 AI 治理树立了明确先例，在道德边界与防御应用之间取得平衡。可能会影响全球其他 AI 公司和政府政策，尤其是在 AI 的军事用途方面。 这些原则严格禁止大规模国内监控、自主武器系统和高风险自动化决策。Daybreak 计划为经过验证的防御者提供高级 AI 工具，将更宽松的功能与更强的监督和范围控制相结合。

生命未来研究所发布了一份报告，对九家顶尖人工智能公司的安全表现进行评级，没有一家获得 A 评级。Anthropic 以 C+位居榜首，OpenAI 和谷歌 DeepMind 得 C，Meta 得 D+，而 DeepSeek、xAI 等公司则获得 F 评级。 该报告凸显了人工智能安全治理方面的关键差距，因为企业正在快速开发变革性人工智能，却没有制定可靠的风险管理计划。这强调了行业需要更严格的安全标准和透明度。 报告指出，许多公司已从禁止将人工智能用于军事领域转向积极寻求防务伙伴关系。中国公司 Z.ai 和阿里云否认与军方有关联的指控，但评级仍然很低。