#LLM

腾讯发布并开源了混元 Hy3 预览版，这是一个混合专家（MoE）语言模型，总参数量 2950 亿，激活参数量 210 亿，支持 256K 令牌上下文长度。 此次发布通过一个面向复杂推理和智能体任务的大规模 MoE 模型，极大地丰富了开源 LLM 生态系统，有望加速人工智能驱动的编程和科学应用的发展。 得益于模型架构与推理框架的深度协同优化，该模型在 CodeBuddy 等产品中实现了首令牌延迟降低 54%。其目标是在数学、科学和代码生成任务中提供增强的性能。

vLLM v0.24.0 版本发布，共有 571 次提交和 256 位贡献者，新增了对 MiniMax-M3 模型的支持，并对 DeepSeek-V4 进行了深度性能优化，包括 FlashInfer 稀疏索引缓存和集群协作 topK 内核。 该版本显著扩展了 vLLM 支持的模型范围，并展示了其作为高性能推理引擎在前沿大语言模型中的日益重要作用。针对 DeepSeek-V4 的优化提升了吞吐量和延迟，有益于大规模部署。 此版本引入了默认支持量化模型的 Model Runner V2 (MRv2)、新的流式解析引擎用于工具调用解析，以及用于专家并行性的 DeepEP v2 集成。此外，vLLM 不再内部设置 CUDAVISIBLEDEVICES，而是改用 deviceids 参数。

vLLM v0.25.0 将 Model Runner V2 设为所有稠密模型的默认运行路径，移除了旧版 PagedAttention 实现，并使 Transformers 建模后端的性能与原生 vLLM 持平。 此次发布是一次重大的架构改革，简化了代码库，消除了技术债务，并扩展了模型支持，以更高的性能和兼容性惠及 LLM 推理社区。 该版本包含来自 232 位贡献者的 558 次提交，新增了 LLaVA-OneVision-2 和 GLM-5 等模型，并引入了用于工具调用/推理解析的全新流式解析引擎。

Meta 于 2026 年 7 月 9 日公开发布 Muse Spark 1.1，这是一个专为代理式编程设计的多模态 AI 模型，可通过 Meta 开发者平台获取 API 访问。 此次发布将 Meta 定位为 OpenAI 和 Anthropic 在 AI 编程助手领域的主要竞争对手，以每百万输入令牌 1.25 美元的激进定价，可能通过将编程模型商品化来颠覆市场。 该模型在 Terminal-Bench 2.1 上进行了评估，但社区分析指出资源限制（6 个 CPU 核心、8GB 内存）被覆盖，这可能使结果无效。定价为每百万令牌输入 1.25 美元、输出 4.5 美元，缓存输入为 0.15 美元。

较新的 Claude 模型（Opus 4.8 和 Sonnet 5）会生成包含额外虚构字段的畸形工具调用，导致 Pi 等第三方编码工具拒绝该调用，而旧模型并未出现此问题。 这种反直觉的退化表明，针对特定工具模式的强化学习可能会降低其他工具上的表现，给依赖一致工具调用行为的开发者带来可靠性挑战。 这些畸形调用通常包含正确的编辑内容，但在嵌套的 edits[] 数组中包含虚构的键，违反了模式定义。Armin Ronacher 推测，较新模型过度训练了 Claude Code 内置编辑工具格式。

研究人员发布了一个 10MB 的 LoRA 适配器，用于 Qwen3.5-4B 模型，通过读取模型激活中的内部置信信号来门控工具使用，相比基础模型减少了幻觉并将错误检测能力提高了 0.46 d′。 这种方法通过利用内部信号解决了小型语言模型的一个关键局限——无法准确表达置信度——从而在无需更大模型的情况下实现更可靠的工具使用和隐私查询处理。 该适配器在 126 个手工编写的项目上训练，并附有置信区间评估；它将隐私查询泄露率从 22%降至 10%，并在 Apache-2.0 许可证下开源。

两个由资深内核开发者借助 LLM 开发的大型内存管理补丁集正在被 Linux 内核社区评估。 这标志着 AI 生成贡献被接受的方式的转变，来自受尊敬开发者的补丁被认真对待，可能为未来的 LLM 辅助工作树立先例。 其中一套由 Rik van Riel 提出的补丁引入了“超级页块”，旨在无需依赖不灵活的 hugetlbfs 预留系统即可可靠分配 1GB 大页，解决内存碎片化挑战。

华为开源了 OpenPangu-2.0-Flash，这是一个混合专家（MoE）大语言模型，总参数量 920 亿，激活参数量 60 亿，支持 51.2 万 token 的上下文长度。此次发布包含模型权重、推理代码和训练操作。 此次开源为社区提供了一个来自科技巨头的高性能、长上下文 MoE 模型，可能降低研究人员和开发者试验大规模 MoE 架构的门槛。这也标志着华为在开源 AI 生态系统中的参与度日益增加。 该模型采用 MoE 架构，每个 token 仅激活 920 亿参数中的 60 亿，从而实现高效推理。它支持 51.2 万 token 的上下文窗口，更大的 Pro 版本（总参数量 5050 亿，激活 180 亿）计划于 7 月发布。

DeepReinforce 发布了 Ornith-1.0 模型系列，采用 MIT 许可证开放权重，在编码基准测试中达到同类开源模型的最高性能，参数规模从 9B 到 397B 不等。 该发布推动了开源智能编码能力的发展，使开发者能够在本地运行强大的编码助手而无需锁定特定供应商，自我支架技术可能提高多步骤任务的可靠性。 模型基于预训练的 Gemma 4（Apache 2.0）和 Qwen 3.5（Apache 2.0）构建，确保许可证兼容性，包括密集和混合专家两种变体。作者测试了 35B 的 GGUF 量化模型，报告在智能编码任务上表现强劲。

Fernando Irarrázaval 举办的 OpenClaw AI 助手挑战中，2000 人尝试通过电子邮件泄露秘密，经过 6000 次尝试均未成功。底层模型为 Anthropic 的 Opus 4.6，配备了防提示注入规则。 该实验提供了现实证据，表明前沿模型对提示注入攻击的鲁棒性显著增强，这是 AI 安全领域的重大关切。这表明大型语言模型的安全改进正在转化为实际防御能力，但并不能保证完全无懈可击。 挑战消耗了 500 美元的代币费用，并因大量入站邮件导致一个 Google 账户被暂停。尽管尝试了 6000 次，没有参与者成功泄露秘密，但作者警告不要在生产系统中部署可能因提示注入造成不可逆损害的应用。