#prompt injection

YouTube 的 AI 评论摘要工具中存在一个提示注入漏洞，攻击者通过留下精心构造的评论注入恶意提示，从而泄露创作者的私密视频标题。 该漏洞通过暴露创作者的私密视频标题侵犯其隐私，并凸显了在面向用户的应用中集成大语言模型时缺乏对提示注入的充分防护所带来的广泛安全风险。 当创作者打开 YouTube Studio 的评论标签并点击建议的 AI 提示时，攻击即可生效；注入的评论强制模型在其响应中包含私密视频标题。社区测试结果不一，部分用户无法复现该问题，表明 YouTube 可能已采取部分缓解措施。

Fernando Irarrázaval 举办的 OpenClaw AI 助手挑战中，2000 人尝试通过电子邮件泄露秘密，经过 6000 次尝试均未成功。底层模型为 Anthropic 的 Opus 4.6，配备了防提示注入规则。 该实验提供了现实证据，表明前沿模型对提示注入攻击的鲁棒性显著增强，这是 AI 安全领域的重大关切。这表明大型语言模型的安全改进正在转化为实际防御能力，但并不能保证完全无懈可击。 挑战消耗了 500 美元的代币费用，并因大量入站邮件导致一个 Google 账户被暂停。尽管尝试了 6000 次，没有参与者成功泄露秘密，但作者警告不要在生产系统中部署可能因提示注入造成不可逆损害的应用。