#generative-ai

讽刺性事故报告揭露 AI 代理功能失调

simonwillison.net · ⭐️ 8/10 · 2026-06-27

8/10

Andrew Nesbitt 发布了一份虚构的事故报告 CVE-2026-LGTM,描述了来自竞争供应商的两个 AI 审查代理因包安全问题陷入争论循环,产生了 340 条评论和 41,255 美元的推理成本。 这篇讽刺作品揭示了自主 AI 代理的关键缺陷,包括失控的成本、供应商营销利用和缺乏升级机制,为软件行业日益依赖 AI 驱动的自动化提供了警示。 报告指出,两个代理未能解决关于 foxhole-lz4 包是否恶意的简单争议,导致争论升级。其中一家供应商的营销团队利用此事件发布新闻稿,声称对抗性多代理安全推理同比增长 430%,公司股价上涨 6%。