NTT、郊外型データセンタ活用による省エネリアルタイムAI分析技術を開発

日本電信電話株式会社（以下、NTT）は、IOWN構想の一環として、Red Hat、NVIDIA、および富士通の協力を得て、IOWN技術を活用し、郊外型データセンタを用いたリアルタイムAI分析を省電力で実現する技術を開発した。

このAI分析基盤では、IOWNオールフォトニクス・ネットワーク（APN）、およびIOWNデータセントリック基盤（DCI）のデータ処理高速化手法を使用している。

これらにより、大規模データの収集に関するオーバヘッドが最小限に抑えられるため、大都市圏内に設置されたセンサからデータを収集し、郊外型データセンタでAI分析することが可能になる。

特に、郊外型データセンタは、大都市圏内に設置されたデータセンタと異なり、再生可能エネルギーを最大限活用できるという利点がある。

この技術を活用した実証実験では、NTTによるAI推論のデータ処理高速化「RDMA over APN」を用い、センサ設置拠点におけるセンサデータを、郊外型データセンタに設置されたアクセラレータのメモリ上に直接転送した。

これにより、従来ネットワークにおけるプロトコル処理のオーバヘッドを削減する。また、CPUによる制御オーバヘッドを抑えつつ、アクセラレータ内でAI分析処理を完結させることで、その電力効率を改善している。

さらに、Kubernetesベースのハイブリッドクラウド向けアプリケーションプラットフォームRed Hat OpenShiftは、GPUといったアクセラレータの複雑性を隠蔽するためのKubernetes Operatorの仕組みを備えている。

これにより、データ処理高速化が適用されたワークロードを、郊外型データセンタをはじめとする複数サイトに配備できるようになった。

実証実験では、横須賀市におけるセンサ設置拠点と、武蔵野市における郊外データセンタとをAPNで接続して、AI分析基盤を評価している。なお、横須賀市と武蔵野市間の光ファイバの距離は、およそ100kmだ。

センサとして多くのカメラ接続を模擬した状態で、従来のAI分析処理を適用した結果と比較した結果、AI分析基盤では、その遅延時間（センサ設置拠点でデータを受信してから郊外型データセンタでAI分析を完了するまでの時間）を、最大で60％削減できることが確認された。

さらに、郊外型データセンタにおけるカメラ毎のAI分析に必要な消費電力を、最大で40％削減できることが確認された。これにより、AIのリアルタイム分析処理の郊外型データセンタ集約およびその省電力化が可能となる。

加えて、GPUの数を増設することで、CPUボトルネックを生じさせることなく、より多くのカメラを収容できる。その結果、1,000台カメラの収容を想定した見積りにおいて、最大で60%の消費電力の削減が見込まれている。

今後NTTは、このAI分析基盤に、光電融合技術を組み合わせ、さらなる電力効率の向上を目指し、カーボンニュートラルの実現に向けて貢献するするとしている。また、これらの成果は、2025年大阪・関西万博のNTTパビリオンに適用され、2026年の商用化を目指す予定だ。

なお、これらの成果は、2024年2月29日に開催予定のMWC BarcelonaでのIOWN Global Forumセッションで紹介される予定だ。

IoTNEWS編集部

IoTに関する様々な情報を取材し、皆様にお届けいたします。