#distributed inference

Apple MLX 在四台 Mac Studio 上分布式运行 Muse Spark Open

machinelearning.apple.com · ⭐️ 7/10 · 2026-10-17

7/10

Apple ML 研究团队介绍了一项用分布式 MLX 在四台 Mac Studio 上运行近万亿参数模型 Muse Spark Open 的方案,文章称该集群生成速度超过 36 tokens/秒,单台 Mac Studio 最高支持 512GB 统一内存并可向外扩展,所用最新版 MLX 同日发布。这是 Apple 描述的方案与厂商展示,并非独立复现;社区讨论同时质疑其基准公平性和 8K 上下文的实用性。