跳到正文
Hugging Face Blog·· 18 小时前精选AI 评分74

Hugging Face 推出 TorchTPU,为 PyTorch 提供原生 TPU 支持

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 发布 TorchTPU,一个原生 PyTorch 后端,让 TPU 成为普通设备。Transformers v5 和 Diffusers 已原生支持 TPU,只需 device_map="tpu" 或 pipe.to("tpu") 即可运行。Kernels Hub 提供 Pallas 编写的 TPU 内核,在 Qwen3-30B-A3B 上解码速度提升 21.5 倍。

推荐理由

TorchTPU 让 PyTorch 用户无需改写代码即可用上 TPU,并给出 Transformers 与 Diffusers 的原生接入方式。

来源:Hugging Face Blog · huggingface.co