YouTube 的 AI 评论摘要工具中存在一个提示注入漏洞，攻击者通过留下精心构造的评论注入恶意提示，从而泄露创作者的私密视频标题。 该漏洞通过暴露创作者的私密视频标题侵犯其隐私，并凸显了在面向用户的应用中集成大语言模型时缺乏对提示注入的充分防护所带来的广泛安全风险。 当创作者打开 YouTube Studio 的评论标签并点击建议的 AI 提示时，攻击即可生效；注入的评论强制模型在其响应中包含私密视频标题。社区测试结果不一，部分用户无法复现该问题，表明 YouTube 可能已采取部分缓解措施。
背景
提示注入是一种安全漏洞，攻击者通过精心构造输入，诱使 AI 语言模型覆盖其预期指令而执行攻击者命令。YouTube 的 AI 评论工具使用大语言模型为创作者总结评论，但如果评论中包含精心设计的指令，模型可能执行该指令，从而泄露私密视频标题等敏感数据。
参考链接
社区讨论
社区赞扬了文章清晰且事实性强的阐述。一位前谷歌工程师提供了细致的背景，解释了 YouTube 为何可能不将此视为高优先级漏洞。部分用户报告无法复现攻击，而其他人则呼吁在 AI 模型提示中设置更严格的角色边界。