#Apple Intelligence

苹果宣布，Apple 智能首批功能将自 11 月 4 日起随最新的 iOS 开发者 Beta 版在中国开放测试，并计划在 12 月 iOS 27.3 正式发布时向中国用户推出。此次测试包含实时翻译、照片消除和写作工具，但不包含下一代 Siri AI 功能；其他平台的支持需待必要审批后再推出。苹果还与阿里巴巴合作，在 Siri、写作工具和视觉智能中接入千问，面向在中国购买支持 Apple 智能的 iPhone 用户，或设备定位与 Apple 账户国家/地区均设为中国大陆的用户。上述时间与功能范围来自苹果公告，属于已宣布的测试和发布计划，尚非已全面上线的能力。

10 月 15 日，苹果董事会执行主席蒂姆·库克在上海受访时称，Apple 智能（Apple Intelligence）与阿里千问大模型已获批准，将于 10 月晚些时候在中国发布测试版。首批功能包括实时翻译、书写工具和照片清除工具，但 Siri AI 此次不在其中。这一说法来自界面新闻经 Telegram 频道转述的报道，属库克的公开宣布而非已落地的正式版能力，具体上线日期、覆盖机型范围、审批主体及后续功能排期在现有材料中均未给出。

rss · ByteByteGo · 10月27日 15:31 「背景」 Apple 要把一个 30 亿参数的大模型放到 iPhone 上，首先要面对的是内存约束：16 位权重就接近 6GB，还要同时容纳提示词、KV 缓存、系统和其它应用。更麻烦的是内存带宽、功耗、散热，以及不能拖慢手机其它功能。 「方案」 作者梳理的核心思路，是同时压缩权重和推理缓存。权重侧采用调色板量化，把相似数值映射到小查找表；早期模型混合 2 位和 4 位、平均 3.7 位/权重，把 30 亿权重压到约 1.39GB，后续模型进一步让主解码器用 2 位、嵌入表用 4 位，并用量化感知训练适应这种精度。缓存侧采用跨层 KV 共享，按 5:3 把模型分成两段，后段复用前段最后一层的键值，使 KV 缓存内存下降 37.5%。功能侧不再为摘要、改写等任务复制整个模型，而是共享基础模型，加载 rank-16、16 位、约数十 MB 的 LoRA 适配器；运行时再结合 CPU、GPU、ANE，优化数据布局、数组切分和内存拷贝。简单任务留在设备端，复杂请求转到 Private Cloud Compute，以加密方式隔离处理并用混合专家并行计算；作者还提到 2026 年的 AFM 3 Core、总参数 20B 但仅激活 1–4B 的 Core Advanced，以及 PCC 使用 NVIDIA GPU/Google Cloud，不过全文基于公开资料，缺少实测的权衡数据。 「启示」 作者最终强调的是运行时资源决定模型能力：通过压缩、共享、适配器和云端回退，让同一个基础模型在不同硬件与任务上伸缩，而不是把完整大模型硬塞进手机。 标签: on-device LLM, quantization, KV cache, LoRA adapters, Apple Intelligence