#AI ethics

生命未来研究所发布了一份报告，对九家顶尖人工智能公司的安全表现进行评级，没有一家获得 A 评级。Anthropic 以 C+位居榜首，OpenAI 和谷歌 DeepMind 得 C，Meta 得 D+，而 DeepSeek、xAI 等公司则获得 F 评级。 该报告凸显了人工智能安全治理方面的关键差距，因为企业正在快速开发变革性人工智能，却没有制定可靠的风险管理计划。这强调了行业需要更严格的安全标准和透明度。 报告指出，许多公司已从禁止将人工智能用于军事领域转向积极寻求防务伙伴关系。中国公司 Z.ai 和阿里云否认与军方有关联的指控，但评级仍然很低。

Anthropic 的 Claude Code 2.1.91 版本包含混淆代码，用于检测中国时区和代理 URL，并将地区信息编码入发送至 API 的提示词中，且未在更新日志中披露。 此事引发了对 AI 工具用户隐私和透明度的严重担忧，因为该功能可能在用户不知情的情况下识别未授权使用或模型蒸馏，从而破坏信任。 检测逻辑使用 XOR 密钥 91 混淆，检查时区是否为 Asia/Shanghai 或 Asia/Urumqi，以及代理 URL 是否指向中国域名或 AI 实验室；地区数据通过修改系统提示中的日期格式和 Unicode 撇号进行编码。