NTTコミュニケーションズは、高速通信技術 IOWN APN を用いた分散GPUクラスタの実証実験を実施し、従来の単一データセンター環境と比べて処理速度に大きな差がないことを確認しました。実証では、LLM事前学習やストレージアクセス性能を計測し、IOWN APN経由での分散処理がインターネット回線と比べて大幅に高速であることが示されました。
張氏は、GPU over APN で想定される2種類のユースケースを示した。GPUクラスタのノードを2つのデータセンターに分散配置するもの（ユースケース1）と、一方のデータセンターにあるGPUクラスタが APN 経由で他方のデータセンターにあるストレージに接続してデータの読み書きを行うもの（ユースケース2）だ。今回は両方のユースケースで実証実験を行っている。ユースケース1では、 LLM 「Llama 2 7B」の事前学習を2ノードで分散処理するワークロードを実行した。2つのノード間を、100Gイーサネット（単一データセンター内）、100G IOWN APN （分散データセンター）、300Mbps／遅延15msの模擬インターネット（分散データセンター）という3つのネットワークで接続し、処理に要する時間をそれぞれ算出している。なお、分散データセンター間はおよそ40kmの距離がある。
前述したとおり、IOWN APN経由の分散GPUクラスタにおける処理時間は、単一データセンター内のそれとほぼ変わらない（1.006倍）ことがわかった。ちなみに、模擬インターネットを使った分散処理の場合はおよそ29倍の時間がかかるという結果も出ており、IOWN APNの優位性が示されている。 もうひとつのユースケース2では、GPUクラスタからストレージサーバーへのNFSアクセス性能を、上述した3種類のネットワークで計測した。こちらも、IOWN APN経由で読み出し処理にかかる時間は、単一データセンター内の1.
ただし今回の実証環境は、LLMの分散学習処理としては小規模なクラスタ構成（2ノード）によるものだ。張氏も「今回の実証は小規模な環境で、比較的軽量な処理を試したもの」であることを強調したうえで、今後はさらにノード数規模やワークロードを拡大させた実証実験も行いながら、「最終的には、大規模なGPUクラスタを使いたいお客様に役立つものに仕上げたいと考えている」と述べた。 NTT Comでは、国内70拠点以上のデータセンター間を接続できる100GbpsのIOWN APNサービス「APN専用線プラン powered by IOWN」や、液冷方式に対応し1ラックあたり最大80kWの冷却能力を持つコロケーションサービス「Green Nexcenter」、顧客専有型のマネージドGPUサーバー環境「GPUプラットフォーム」などをすでに提供している。今回の技術をこれらのサービスに組み合わせた“GPUクラウドソリューション”の商用提供を目指す方針だ。なおNTT Comでは、10月10日と11日に開催する年次イベント「docomo business Forum '24」（会場：ザ・プリンス パークタワー東京）で、今回の「GPU over APN」実証結果を含むIOWN関連展示を行う。
コンピューティング IOWN APN 分散GPUクラスタ LLM ストレージアクセス性能
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
ドコモ、IOWNの活用による東京ドーム巨人戦を映像配信する実証実験--新たな観戦体験を提供NTTドコモは9月18日、読売新聞東京本社、読売巨人軍とオフィシャルDX推進パートナー契約の取り組みとして、「IOWNを活用した新たなプロ野球観戦」の創出をめざした「APN IOWN 1.0」を活用した東京ドーム巨人戦をリアルタイムで映像配信する実証実験を、9月18日に実施。読売新聞社、読売巨人軍がパートナー企業との協業において、「IOWN」を活用して巨人戦の試合の中継映像を東京ドームの場外で利用することは、今回が初めてという。
続きを読む »
複数DCに分散設置したGPUクラスタで生成AI学習、NTT ComがIOWN APNで実証に成功NTTコミュニケーションズ（NTT Com）が、IOWN APN（オールフォトニクスネットワーク）を活用した分散データセンター（DC）での生成AI学習実証実験に成功したことを発表した。IOWN APNで接続された2つのデータセンターに、1つのGPUクラスタを分散配置し、LLMの学習処理を実行。その結果、単一データセンター内で構成された従来のGPUクラスタとほぼ同等の時間で処理できることを示した。
続きを読む »
IOWN APN に光ファイバセンシングを組み合わせた広域・面的な交通流モニタリングの実証成功NTTグループとNECは共同で、IOWNオールフォトニクス・ネットワーク（APN）に光ファイバセンシング機能を統合する構成を開発し、一般道の広域かつ面的な交通流モニタリングを実証しました。大阪市内の既存通信用光ファイバを用いることで、交通状況のリアルタイム可視化とトレンド分析が可能となり、都市モニタリングの低コスト・迅速・柔軟な展開が期待できます。
続きを読む »
読売新聞社、読売巨人軍とAPN IOWN 1.0を活用した東京ドームにおける巨人戦をリアルタイムで映像配信する実証実験を実施読売新聞社、読売巨人軍とAPN IOWN 1.0を活用した東京ドームにおける巨人戦をリアルタイムで映像配信する実証実験を実施 株式会社NTTドコモのプレスリリース
続きを読む »
地下に敷設された光ファイバーで振動を検知し、一般道の交通流モニタリングを実現、NTTらが大阪市内で実証日本電信電話株式会社（NTT）、東日本電信電話株式会社（NTT東日本）、西日本電信電話株式会社（NTT西日本）、日本電気株式会社（NEC）は9月30日、IOWN APNに光ファイバーセンシングを組み合わせる構成を構築し、一般道の交通流モニタリングの実証に成功したことを発表した。複数の一般道に沿って、広域かつ面的にモニタリングした実施例は今回が初めてだとしている。
続きを読む »
NTT Com、IOWN APNを活用した分散データセンターでの生成AI学習実証実験に世界で初めて成功ドコモグループの法人事業ブランド「ドコモビジネス」を展開するNTTコミュニケーションズ株式会社(以下 NTT Com)は、超高速かつ超低消費電力を実現するIOWN構想※1の主要技術であるオールフォトニ...
続きを読む »