#Open-Source

能力门控:利用内部置信信号控制工具使用

reddit.com · ⭐️ 8/10 · 2026-07-05

8/10

研究人员发布了一个 10MB 的 LoRA 适配器,用于 Qwen3.5-4B 模型,通过读取模型激活中的内部置信信号来门控工具使用,相比基础模型减少了幻觉并将错误检测能力提高了 0.46 d′。 这种方法通过利用内部信号解决了小型语言模型的一个关键局限——无法准确表达置信度——从而在无需更大模型的情况下实现更可靠的工具使用和隐私查询处理。 该适配器在 126 个手工编写的项目上训练,并附有置信区间评估;它将隐私查询泄露率从 22%降至 10%,并在 Apache-2.0 许可证下开源。