PANews·· 2 小时前精选AI 评分70
Google 开源 TorchTPU,挑战 NVIDIA AI 生态主导地位
AI 导读
Google 开源 TorchTPU,成为 PyTorch 原生硬件选项,与 GPU、CPU 并列。TorchTitan 训练 Qwen 3 8B 的 MFU 最高为 52%,规模可扩展到 8,192 颗 Ironwood TPU。
推荐理由
原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
原文
PANews 10月21日消息,据 Google Cloud 官方博客,Google 在 PyTorch Conference 2026 上宣布开源 TorchTPU。该项目由 Google 与 Meta PyTorch 团队联合开发,代码已发布在 GitHub。TPU 由此成为与 GPU、CPU 并列的 PyTorch 原生硬件选项,现有代码只需少量修改即可迁移。vLLM、SGLang、TorchTitan、VeRL、Ray 等框架已经接入。在 Hugging Face Transformers v5 中,传入 device_map="tpu" 即可把模型部署到 TPU。测试显示,TorchTitan 训练 Qwen 3 8B 的 MFU(模型算力利用率)最高为 52%,规模可扩展到 8,192 颗 Ironwood TPU。Google 还与 Red Hat、IBM 发布了 llm-d 1.0,LiteRT 也加入了 PyTorch 生态。
来源:PANews · panewslab.com