NTTデータが考える生成AIのビジネス活用の在り方

最新技術として話題になることの多い生成AIですが、NTTグループでは自然言語処理を40年以上前から実施しています。そのため日本語という文脈においては国内随一と言えるだけのデータを持っており、解析能力も含めると、世界最高水準の技術を誇っています。特にNTTデータでは、研究所技術を活用したR&Dの実施、お客様業務への技術適用を進めています。

Googleが開発した汎用自然言語処理モデルである「BERT」をもとに、NTT研究所にて独自に収集した大規模文章群による学習・モデル構築を行い、日本語版のBERT（NTT版BERT）を開発しました。NTTデータではそれをベースに、業界特化型のデータを学習させていくことで、2020年には金融業界に特化した金融版BERTを開発しています。また、テキストデータから知識を抽出する文書読解AIソリューション「LITRON^®」を開発し、ソリューションとしてお客様への提供を行っています。

現在NTTデータでは、AI活用によるお客様ビジネスの業務変革を実現するにあたり、前述したリスクを鑑み、「積極的なAI活用の推進」と「AIガバナンスの徹底」の両輪で取り組んでいます。その体制づくりとして、2023年6月には生成AIの活用をグローバルで推進する「Global Generative AI LAB」を設立。本ラボでは4つの柱を軸に活動を行っています。

図2：「Global Generative AI LAB」の4つの柱

（1）自社バリューチェーンの変革

NTTデータのコアコンピタンスであるソフトウェア開発分野への生成AI適用を開始しています。一般的にはソフトウェア開発の主に製造工程において生成AIを活用することが検討されている中、NTTデータでは要件定義からテストまで、すべての工程において活用を進めていきます。各工程で利用可能な生成AIを活用したアセットをグローバルで整備すると共に、生成AIの活用を前提としたソフトウエア開発における次世代開発プロセスを整備し、グローバルの全社員19.5万人で標準利用していくことを目指しています。
なお、この生成AIを活用したレガシーアプリケーションのマイグレーション案件において、既に欧州の大規模金融機関のお客様等とPoCを実施し、高い生産性の実現を確認しており、商用への適用実績も拡大しています。

（2）お客様バリューチェーンの変革

まず基盤モデルについては、Microsoft社の「Azure OpenAI」など、さまざまなベンダー製品やOSS、さらにはNTTの開発モデルを活用。PoCを実施しながら、それぞれのお客様に最も有効な生成AIモデルとそのユースケースを生み出していきます。なお、NTTデータとしての強みは、培ってきた業界特化型モデル開発のノウハウを生かし、各業界や個々のお客様に特化したモデルを提供できるところにあります。NTTデータ独自の生成AIソリューションの提供を目指し、ラボ活動を通したお客様との協創を推進しています。

（3）共通プラットフォームの提供

文書検索やチャットボット、ナレッジマネジメントなど、エリアやユースケースごとに存在するソリューションを横展開しつつ、バックエンドの基盤モデルも複数パターン用意。お客様にすぐに提供できユースケース開発やソリューション検証を行える共通プラットフォームをグローバルで整備していきます。
具体例としては、欧州・中東・アフリカ・中南米の海外事業を統括するNTT DATA EMEALで提供している文章検索ソリューション「Dolffia」やチャットボットソリューション「eva」をEMEAL以外の地域へ展開。すでに提供しているナレッジマネジメントソリューション「knowler」に「Dolffia」を組み込み、自然文検索を含むコンテンツ検索を高精度化するといった対応を進めています。

（4）戦略・ガバナンス

NTTデータでは、グローバルでのAIガバナンス活動として、2019年にAI指針を策定し、2023年4月にはAIガバナンス室を設置。情報セキュリティや知的財産、倫理といったリスクをグローバル全体で抑制するための社内ガイドラインを整備しています。
生成AIを積極的に活用していくだけでなく、そのリスク対策を十分に行うことで、安心安全なAIシステムの提供を目指しています。

生成AIのユースケースと価値創出のステップ

現在ChatGPTが注目されていますが、そのベースとなる大規模言語モデル（LLM／Large Language Models）の技術的発展が市場を牽引しています。LLMとは、膨大なデータセットを学習することで、さまざまな自然言語処理タスクをこなすことができるAIモデルのことで、ChatGPTは、LLMの一種です。

生成AIやLLMには、下記のように多種多様なユースケースが想定されます。

• 文章の作成（ex：日程調整をするためのメール文面の作成）
• インサイト抽出（ex：ユーザーのレビューをもとに商品の改善点の洗い出し）
• 応答支援（ex：過去の応答データに基づいた回答文の作成や業務知見の抽出）
• マーケティング支援（ex：取引履歴に基づいたメール文や顧客とのロールプレイの実施）
• 法令違反チェック支援（ex：社内ルールに沿った審査チェックや過去の審査実績を学習させておき、審査のダブルチェックとして活用）

ビジネス活用をする際には、上記のようなユースケースを幅広く検証し、いかに自社のビジネスに馴染ませていくかが重要となります。

また、生成AIやLLMの活用方法としては、4パターンあると考えられます。汎用型AIサービスをそのまま活用するか、自社に合わせてカスタマイズした特化型にするか。また、AIを社内業務の中で活用するか、自社サービスの中に組み込んでサービス提供者となるか。これらの組み合わせ4つに分けることができます。

図3：生成AIやLLMの活用分類

参照元を示すことで、AIの幻覚リスクを低減

NTTデータでは、社内規定や業務関連資料、外部の公開データなど多様なデータを生成AIとセキュアに連携させて回答文を作成するAIサービス「LITRON^® Generative Assistant」を提供しています。

本サービスのポイントは、性能・構築難易度・柔軟性・信頼性の4つです。

性能

ビジネスにおいて汎用型AIサービスを活用しようとすると、回答が一般論になってしまい、現実にはあまり役立たないといったケースがあります。本サービスは、実際の業務文書をAIに適宜参照させることで業務に適合した回答を得やすくなるようにカスタマイズする特化型AIサービスです。

構築難易度

AIシステムやモデルを一から自社で構築するのはかなりハードルが高く、目利き力も必要です。本サービスでは、基本構成構築済のAIシステムをクラウドマネージドサービスとして使用することができます。また、NTTデータが提供するデータ分析基盤（TDF-AM）を基盤にしているため、ユーザー認証機能やログ取得などのセキュリティ機能も一括で提供できます。

柔軟性

AI技術はまだまだ進歩の途上です。現時点で本サービスではAzure OpenAI Serviceを利用していますが、技術の進歩やニーズに合わせて、接続先モデルをはじめ、参照先の文書ストアの追加や差し替えもできるようにしています。

信頼性

生成AIが抱えるリスクでも紹介したとおり、ハルシネーションという課題がありますが、本サービスの最も大きな特徴として、関連文書を参照させることでハルシネーションのリスクを低減できます。回答文とともに、その根拠となる参照元の文書名を明示し、必要に応じて回答結果を精査することが可能です。

具体的な活用例としては、社内規則に沿った行動の支援です。出張をする際や子どもの看護をするために休暇を取得する際など、必要な手続きや社内制度について、AIが回答文を作成してくれます。これにより管理部門の生産性向上が見込まれます。

もちろんそのほかにも、生成AIやLLMのユースケースとして例示したような業務支援が、自社に特化したかたちで受けることができます。

図4：「LITRON^® Generative Assistant」の動作イメージ

なお、NTTデータでは本サービスの社外提供に先駆けて、社内でも活用しています。そのナレッジの共有を含め、生成AI活用のコンサルティングサービスを提供し、お客様ビジネスの変革に取り組んでいます。