#on-device AI

淘宝 MNN 团队开源了约 3 亿参数的端侧模型 MNN-Pocket-0.3B，目标是让手机完全离线运行小型语言模型。团队称该模型在 iPhone 18 Pro 上平均解码约 350 token/s，INT4 部署文件为 173 MB，但上述性能尚未见到独立验证。MNN-Pocket-0.3B 最终采用 28 层结构，词表从 151K 精简至 64K，官方目标为峰值内存低于 300 MB、解码超过 200 token/s，并按预训练、后训练和端侧部署分别开源多个版本。

The Verge 报道称，苹果将入门级 14 英寸 MacBook Pro 和 24 英寸 iMac 更新为 M6 芯片；MacBook Pro 起售价 1999 美元、配备 16 GB 内存，与去年 M5 款持平，iMac 起售价 1499 美元。两款产品均于 10 月 28 日开启预售，预计 11 月 6 日开始发货或上市。苹果称 M6 是其首款 2nm 芯片，CPU 由 10 核增至 12 核，多线程性能最高可达前代的 1.2 倍，并配有 12 核 GPU 和双 16 核神经网络引擎，且功耗更低。上述制程与性能信息来自苹果，尚未见到独立基准测试。

Google DeepMind 与新加坡政府科技局宣布合作推出端侧诈骗检测模型，该模型基于轻量级 Gemma 微调，可在手机上本地分析对话并实时提醒用户，无需将内容上传云端。该模型在 2026 年新加坡国际网络周上展示，但现有信息未说明具体上线时间、支持机型或准确率等指标。新加坡方面称诈骗占报案犯罪过半，2019 年以来相关损失超 40 亿新元，其中社会工程类诈骗占损失的 80%。