Googleは2026年10月20日、Google TPU向けのPyTorch実行基盤「TorchTPU」をオープンソース化し、GitHubでソースコードを公開したと発表しました。Googleによると、既存のPyTorch処理を最小限のコード変更でTPU上で実行でき、AIの学習・推論に使う計算基盤の選択を支援します。
既存のPyTorch処理をTPUで実行
TorchTPUは、GoogleがMetaのPyTorchチームと共同開発した、TPU向けのネイティブPyTorchスタックです。PyTorchで書いた処理をTPU上で動かすためのソフトウェア基盤に当たります。
Googleによると、処理をその場で実行するeagerモードでモデルの不具合を調べられます。また、処理をまとめて最適化するtorch.compileを使うことで、TPU利用の最適化とメモリ負荷の削減が可能としています。
Hugging Faceとの連携も進めました。Transformers v5では、device_map="tpu"を指定してTPUへ展開できます。DiffusersはTPUでの実行に加え、計算対象のテンソルを分割して処理するテンソル並列に対応します。Googleは、TPU上でTransformersを毎晩テストする継続的な検証基盤も構築しました。
既存のPyTorch資産がある会社では、全面的な書き直しではなく、使っているライブラリと実際のコードで移行できる範囲を確かめる材料になります。ただし、最小限の変更で動かせるという説明はGoogleによるもので、自社の処理で必要な修正量は検証が必要です。
推論・分散学習にも対応、一部はプレビュー
AIモデルを動かして結果を得る推論では、GoogleはInferactとTorchTPU向けvLLMバックエンドを開発しました。TPU上での連続バッチ処理、計算に使う数値の精度を抑える量子化、複数チップでの並列処理に対応するとしています。RadixArkとは、SGLang向けのネイティブPyTorchバックエンドを開発しました。
また、GoogleはRed Hat、IBMなどと分散LLM推論基盤のllm-d 1.0を公開しました。Googleによると、GKEでは共通のllm-dエンドポイントでGPUとTPUを選択できます。関連する仕組みはGoogle、llm-d 1.0公開 自社AI推論の分散運用を支援でも紹介しています。
学習ではTorchTitanにTorchTPUを統合しました。Rayにもネイティブ対応を追加し、CPU・GPU・TPUを単一の処理手順の中で管理できるとしています。一方、VeRLによるTPUでの追加学習・強化学習対応と、GitHubで公開したTPU agent suiteはプレビューです。公開された機能を、すべて同じ提供段階として扱わないことが重要です。
日本での提供は発表には書かれていません。日本語対応、日本向け価格、利用できる日本のリージョンについても記載がありません。
影響する会社・しない会社
- 影響する: PyTorchでAIを開発し、Google TPUの利用を検討している会社です。既存処理の移行やデバッグ方法を評価する対象になります。
- 影響する: Transformers v5、Diffusers、vLLM、SGLang、TorchTitan、Rayなどを使う開発部門がある会社です。自社の構成に対応する連携を確認する価値があります。
- 影響しない: 対象業務でPyTorchやTPUを使わず、導入も検討していない会社では、今回の公開を理由に既存環境を変更する必要性は示されていません。一般の業務アプリや契約済みサービスへの変更は、発表には書かれていません。
