#local-inference

Block 宣布推出 Dessa 全双工语音模型，其特点是能同时听说，而不是传统的轮流发言。据评论引述的帖子内容，Dessa 具备低延迟本地推理能力，可在 MacBook Pro M4 Max 或更高配置上运行，并仅用一台 NVIDIA GB200 NVL72 完成训练。上述性能、硬件门槛和训练效率均来自公布方说法；目前公开材料以宣传为主，缺少可独立验证的技术细节和复现结果。

一位开发者把 EmbeddingGemma 2 改造成语音转文字模型，做法是利用该模型中文本与音频共享同一向量空间，将音频映射到文本表示。创作者在 Hacker News 评论中表示，这个实验“能跑通”，准确率不错但低于云端模型，日常使用尚可，速度提升只是附带结果，并非最初目标。该实验并非正式发布的产品，给定材料未说明模型权重、代码或使用条件是否公开。