NVIDIA最新GPU を活用した大規模機械学習向け基盤提供を開始
~「NVIDIA DGX™ B200 システム」を搭載し、企業独自のAIモデル開発等を支援~
トピックス
2025年3月19日
株式会社NTTデータ
株式会社NTTデータ(以下、NTTデータ)は、2025年10月より、NVIDIAアクセラレーテッドコンピューティング注1を活用した大規模機械学習向け基盤提供サービス(GPU as a Service)を開始します。プライベート環境下での提供を予定しており、多様化する大規模機械学習の需要に応え、大規模言語モデル(LLM)開発のほか、自動運転技術の開発や創薬領域などで必要となる膨大なデータの活用を支援します。
本サービスは、NVIDIA Blackwellアーキテクチャーを採用し、「NVIDIA DGX™ B200システム」で構築された「NVIDIA DGX™ SuperPOD」を活用し、従来のシステムの3倍のトレーニング性能を提供します。お客さま専用のプライベートクラウド上で提供することで、セキュリティー性やカスタマイズ性のニーズに応えます。
今後、NTTデータは自社データセンターの活用やクラウドオファリング強化を図り、プライベート環境でのAI需要に応えるサービスのさらなる展開に取り組んでいきます。
背景
近年、AI技術の進歩と取り扱うデータ量の爆発的な増加により、より高度な分析と予測が可能になり、企業や研究機関における大規模機械学習の需要が急速に高まっています。大規模機械学習の分野では、特に画像認識や自然言語処理、音声認識などで膨大なデータセットを高速に処理することが求められます。AIインフラ環境の構築には、投資コスト、運用管理の複雑さ、固有のデータセンターファシリティー要件、環境への影響などの多くの課題があります。
株式会社NTTデータグループは、世界3位のデータセンタープロバイダー注2であり、これまで長年にわたり、お客さまの幅広いニーズに対応できるよう安全・安心を提供するデータセンター事業を推進してきました。また、NTTデータとしては、2023年度からAI用途のGPUを調達し自社データセンター内での検証を通じてサービス化の検討を進めてきました。さらに当社はOpenCanvas®注3をはじめとしたプライベートクラウド事業に強みを持っており、プライベート環境で求められる高セキュリティー運用のノウハウを蓄積してきました。
概要(特長)
NTTデータは、2025年10月から、企業独自のAIモデル開発をはじめとした大規模機械学習向けに、NVIDIAアクセラレーテッドコンピューティングを活用した基盤提供サービス(GPU as a Service)を開始します。プライベート環境下での提供を予定しており、多様化する大規模機械学習の需要に応え、大規模言語モデル(LLM)の開発のほか、自動運転技術の開発や創薬領域などで必要となる膨大なデータの活用を支援します。
(1)多様化するAIワークロードに対して最高クラスのパフォーマンスを発揮
NVIDIA Blackwellアーキテクチャーを採用し、「NVIDIA DGX™ B200システム」で構築された「NVIDIA DGX™ SuperPOD」を構成してサービスを提供します。
NVIDIA Blackwellアーキテクチャーを採用した「NVIDIA DGX™ B200システム」をクラスター構成し、日本でトップクラスの計算量を実現するGPUリソースを提供します。「NVIDIA DGX™ B200 システム」は、8つのNVIDIA Blackwell GPUを搭載し、従来のモデルと比較してトレーニング性能で3倍、推論性能で15倍の向上を実現します。さらに、「NVIDIA DGX™ B200システム」をベースとして、クラスター構成注4を組んだ「NVIDIA DGX™ SuperPOD」を構築します。「NVIDIA DGX™ SuperPOD」は、大規模な言語モデルの構築、サプライチェーンの最適化、大量のデータからのインテリジェンスの抽出など、複雑で多様なAIワークロードを抱えるあらゆる規模の企業ニーズに対応できます。
(2)セキュアなクラウド環境による、安心・安全のサービス提供
本サービスの提供形態は、プライベートクラウド上での提供を前提としており、企業の特定のニーズに合わせたセキュリティーレベルを高めたり、カスタマイズを加えたり柔軟に対応することが可能です。お客さまの専用環境下で提供することで、企業の機密データや知的財産を外部に漏らすリスクを低減し、システムの柔軟性を高めることが可能になります。
サービス提供を予定しているデータセンターのセキュリティー水準は、警備員による24時間365日の有人監視および、入退室をICカードと生体情報による多要素認証による管理を標準とし、顧客要件に合わせた専用ケージ区画での提供を可能にするなど、高いセキュリティーニーズに対応しています。
(3)環境負荷への対応
高性能なAIワークロードには高い電力密度注5が求められます。また、発生する熱を冷却するためにも同様に電力が必要となります。本サービスはお客さまの要望に応じてグリーン電力を活用することができ、お客さまのグリーン化推進に貢献します。なお、NTTデータでは、自社データセンターのオペレーションにおける直接・間接排出量(Scope1・2)について2030年での実質ゼロを目指しています。
今後について
NTTデータは、急速なAI市場の伸張を見据え、戦略実行の重要基盤となるデータセンターの活用やクラウドオファリングの強化を継続して推進していきます。さらに、当社は2024年10月より生成AI活用コンセプト「SmartAgent™」を実現するための技術開発およびサービス提供を開始注6しており、本サービスは「SmartAgent」の実現に向けたインフラ領域強化の一環としても取り組んでいきます(図1)。
また今後、災害リスク分散やグリーンエネルギー確保などの観点から、データセンターの地方分散ニーズが一層高まっていくことが予想されます。NTTグループのIOWN注7の技術を活用し、地方へ分散化されたデータセンター間において、大容量なデータを高速・低レイテンシー、かつデータ秘匿性を担保した通信の実現を検討しており、今後お客さまにとっての可用性と機密性を向上するサービスを拡充します(図2)。

図1:「SmartAgent」の全体像と強化領域(赤枠)

図2:分散データセンター構想
NTTデータグループが描く生成AI活用の未来
NTTデータグループは、積極的なAI活用の推進とガバナンスの両輪でお客さまのビジネス、当社のビジネスの変革を推進します。お客さまのビジネスでは、AIエージェントが指示に応じ自律的に対象業務のタスクを抽出・整理・実行する「SmartAgent」の実現をめざします。当社のビジネスでは、ソフトウェア開発の大幅な生産性向上や実践的生成AI人財の育成を加速します。これにより、人手不足等の社会課題解決に貢献するとともに、人が付加価値の高い業務領域に注力できる世界を実現していきます。
参考
クラスター構成を組んだ「NVIDIA DGX™ SuperPOD」のイメージ(従来モデル「NVIDIA DGX™ H100システム」にて構成)

注釈
- 注1 AI、データ分析、シミュレーションおよびビジュアライゼーションに至るまで、要求の厳しいアプリケーションにおいて、NVIDIAプラットフォーム上で並列処理を高速化し、エネルギー効率を高める技術です。
- 注2 中国事業者を含まずStructure Research 2023.5ReportよりNTTにて作成
-
注3
OpenCanvasとは、金融機関やAPI連携事業者、開発者に向けて、高い信頼性とセキュリティーを持つクラウドサービスです。
https://portal.opencanvas.ne.jp/cloud/ - 注4 クラスター化とは仮想マシンが稼働する物理ホスト複数台で構成されるグループのことを指します。
- 注5 電力密度とは、単位面積、単位体積、または単位重量あたりに供給または消費される電力のことを指します
- 注6 AIエージェントを活用した新たな生成AIサービスを提供開始 | NTTデータグループ - NTT DATA GROUP
- 注7 IOWN(Innovative Optical and Wireless Network)構想は、あらゆる情報を基に個と全体との最適化を図り、多様性を受容できる豊かな社会を創るため、光を中心とした革新的技術を活用し、これまでのインフラの限界を超えた高速大容量通信ならびに膨大な計算リソースなどを提供可能とする(端末を含む)ネットワーク・情報処理基盤の構想です。
- 「OpenCanvas」は株式会社NTTデータの登録商標です。
- 「SmartAgent」は日本国内における株式会社NTTデータグループの商標です。
- その他の商品名、会社名、団体名は、各社の商標または登録商標です。
本件に関するお問い合わせ先
株式会社NTTデータ
テクノロジーコンサルティング事業本部
インダストリセールス事業部
木暮、東
テクノロジーコンサルティング事業部
大久保、金本、高木
E-mail:datacenter@kits.nttdata.co.jp