Hugging Faceは2026年10月19日、AWS Trainium向けのPyTorchプラグイン「TorchNeuron」との統合を発表しました。2026年10月20日から公開ベータとして提供する予定です。Trainium上でモデルを実行する際、専用コードへの依存を減らし、各ライブラリを直接使う開発方法を推奨しています。
専用コードを減らし、各ライブラリを直接利用
TorchNeuronは、AIモデルの開発に使うPyTorchに機能を追加するプラグインです。Hugging Faceによると、neuronをPyTorchの標準的なデバイスとして扱えます。導入コマンドはpip install torch-neuronxです。
コードをそのまま順に動かす即時実行と、コンパイル機能のtorch.compileに対応します。また、DTensorやFSDP2を使い、処理を分散させる構成にも対応するとしています。
従来のOptimum NeuronはPyTorch XLAを基盤としていました。今回、Hugging FaceはOptimum Neuron経由ではなく、各ライブラリを直接利用する方法を推奨しています。学習用の専用トレーナーやNeuron専用のモデルコードは不要としていますが、既存環境をそのまま置き換えられると判断せず、現在の実装との差分を確認する必要があります。
対応するモデル構造は拡大、読み込みには制約も
Transformersではテキスト生成を標準サポートします。Hugging Faceによると、利用上位100のテキスト生成モデル構造の89%に標準対応します。同社が比較に挙げたOptimum Neuron v0.4.5では46%でした。
この数値はモデル構造の対応率です。自社のモデルの処理速度や費用を示す数字ではないため、採用判断では対応の有無と実際の動作を分けて確かめるのがよいでしょう。
追加学習では、標準のTRLスクリプトを少数の専用設定で使えるとしています。保存した標準チェックポイント、つまり学習状態の保存データは、他のハードウェアでも読み込めます。Diffusersでも、多くのパイプラインが即時実行とコンパイルに対応するとしています。
一方、生成時に頻繁な再コンパイルが起きるのを避けるため、Hugging Faceは静的キャッシュの利用を強く推奨しています。また、Neuronでは現時点でTransformersの非同期重み読み込みに対応していません。対応範囲の拡大だけでなく、生成設定と読み込み方法も検証対象です。
日本での提供は発表には書かれていません。日本での提供時期、日本語対応、日本の価格、対象リージョンも、今回の資料では確認できません。
影響する会社・しない会社
- 影響する: AWS Trainium上でHugging Faceのモデルを実行している会社です。TorchNeuronを使う構成が、今後の検証候補になります。
- 影響する: Optimum Neuronを利用している会社です。各ライブラリの直接利用が推奨されたため、既存の専用コードや学習処理との違いを確認する対象です。
- 影響する: Trainium上でTransformers、TRL、Diffusersの利用を検討している会社です。ただし、公開ベータの提供予定であり、すべてのモデルや処理への対応を意味しません。
- 影響しない: AWS Trainiumを使わず、導入も検討していない会社に向けた変更や対応義務は、発表には書かれていません。
情シスが今日やること
- 今日、AI開発担当にTrainiumとOptimum Neuronの利用有無を確認します。利用中なら、環境の依存パッケージ一覧と実行スクリプトを確認し、Transformers、TRL、Diffusersのどれを使うかを整理します。
- 検証開始前に、開発担当と対象モデル、テキスト生成か追加学習か、現在の専用コードの有無を記録します。上位100のモデル構造の89%という数値だけで、自社モデルも対応済みと判断しないよう伝えます。
- 生成処理を試す前に、実行スクリプトのキャッシュ設定と重みの読み込み方法を開発担当に確認してもらいます。静的キャッシュが強く推奨されていること、非同期重み読み込みは未対応であることを検証項目に入れます。
- 導入判断前に、AWS環境の管理担当へ利用予定リージョンでの提供状況と費用の確認を依頼します。公開ベータであることと日本での提供情報が資料にないことを、判断者にも共有します。本番移行を決める前に、標準チェックポイントの保存と読み込みも検証してください。
