#Qwen

Astra 读写 Qwen 权重说法被指误导

honnibal.dev · ⭐️ 7/10 · 2026-11-04

7/10

一篇在 Hacker News 上引发讨论的博客文章反驳“Astra 能通过读写权重来改进 Qwen”的说法,认为相关表述具有误导性。一名自称从事机制可解释性研究的评论者同意这一判断,并指出关键结果与提升 Qwen 的数学能力无关,实际只是减少推理循环——模型生成结束思考的 </think> token 概率过低,可通过简单的激活引导修正。其他评论则质疑 Astra 的权重编辑与既有技术高度重叠,或认为原文正文其实已经解释了文章现在总结的内容。

Qwen 3.8 27B 在笔记本上从权重识别游戏

simonwillison.net · ⭐️ 7/10 · 2026-11-04

7/10

Simon Willison 用 17GB 的 Qwen 3.8 27B(Q4\K\M 量化版)在笔记本上通过 LM Studio 复现了一项“无工具读权重”测试:模型只看到简化网格游戏策略网络的浮点权重,就在 46 分 12 秒、43,506 个推理 token 后判断出这是 Pac-Man 风格游戏,并给出 72% 置信度;他还称同一方法识别出了 Pong。该测试源自 Rikiya Takehi 等人以博客形式发布的“Weight-Space Programming”文章,后者声称 GPT-6 Astra 能直接读懂权重,并通过修改 Qwen3.5-0.8B 的 0.016% 权重把 MATH-500 从 7.9% 提到 48.1%、IFEval 提升 3 倍。这些能力目前来自作者自述和 Willison 的个别演示,并非独立复现的基准结果。Matthew Honnibal 批评该文把“无工具读权重”和“借助代码改权重”混为一谈,Sean Goedecke 也认为 Qwen3.5-0.8B 的改权重案例更像人类研究员的标准流程。

7/10

Show HN 项目 nesformer 据称在约 1GB 的 Qwen 模型权重中实现了一个可运行的 NES 模拟器,面向想验证“LLM 即虚拟机”的开发者。它把 NES 的 CPU 与内存状态放进模型的前向计算,而不是交给传统解释器;评论中引用的数据称其速度比真实主机慢 150–290 倍。社区评论还指出,项目连 RAM 也在模型内模拟(据称借助 gated DeltaNet 架构),因此不只是模拟 CPU。