#frontier models

美国商务部取消了对 Anthropic 先进 AI 模型 Claude Fable 5 和 Mythos 5 的出口管制，但 Fable 5 现在面临新的限制，禁止其用于网络安全和编码任务。 这一政策变化影响了前沿 AI 模型的可用性，引发了对企业依赖美国 AI 公司以及监管不可预测性的担忧。 Fable 5 现在使用分类器来阻止网络安全任务，导致常规编码和调试回退到 Opus 4.8。专为漏洞检测设计的 Mythos 5 仍对特定企业和网络安全专家开放。

Fernando Irarrázaval 举办的 OpenClaw AI 助手挑战中，2000 人尝试通过电子邮件泄露秘密，经过 6000 次尝试均未成功。底层模型为 Anthropic 的 Opus 4.6，配备了防提示注入规则。 该实验提供了现实证据，表明前沿模型对提示注入攻击的鲁棒性显著增强，这是 AI 安全领域的重大关切。这表明大型语言模型的安全改进正在转化为实际防御能力，但并不能保证完全无懈可击。 挑战消耗了 500 美元的代币费用，并因大量入站邮件导致一个 Google 账户被暂停。尽管尝试了 6000 次，没有参与者成功泄露秘密，但作者警告不要在生产系统中部署可能因提示注入造成不可逆损害的应用。