Google 开源 TorchTPU:TPU 原生 PyTorch 后端

github.com · ⭐️ 8/10 · 2026-10-20

Google 已开源 TorchTPU,这是一个面向 TPU 的原生 PyTorch 后端,旨在简化开发者在 TPU 硬件上使用 PyTorch 的流程。项目托管在 google-pytorch 的 GitHub 组织下。公开信息目前没有说明它支持哪些 PyTorch 版本、性能表现如何,以及是否达到生产可用,因此尚无法判断它相对现有 XLA 路径的成熟度。

背景

在 TorchTPU 之前,PyTorch 在 TPU 上运行主要依赖 PyTorch/XLA 这一桥接层,把 PyTorch 计算图交给 XLA 编译,而不是作为 PyTorch 原生后端直接接入。评论者 ismailmaj 也回忆说,过去要让 PyTorch 跑在 TPU 上「得和 XLA 较劲」,这与本次以原生后端形式接入的定位形成对照。

参考链接

社区讨论

有评论者称,自己正基于 Tenstorrent 软件栈开发开源的 libtpu 实现,目前已能运行 TorchTPU 的大部分功能;还有人指出,AWS 为 Trainium 提供了类似的 torch-neuronx 后端。另有评论认为,XLA 可能成为比 inductor 更强的编译器基础设施,从而改善多种硬件上的性能,并称这对 TensorFlow 不利;也有人表示,在获得第一方支持后,JAX 与 PyTorch 之间的选择可能更多取决于使用风格。

→ 阅读原文