2．生成AIを通じて社内ナレッジを活用する仕組み作り

生成AIを通じて社内の非公開情報やナレッジを活用するためには、しっかりとした仕組み作りが必要です。

誰もが利用できるクラウド型のオープンなAIモデルに不用意に情報を渡すと、AIモデルの再学習に利用されたり、意図せず第三者に非公開情報が露見したりするリスクが伴います。また、闇雲に生成AIに情報を渡しても、解決したい課題とは無関係な情報や鮮度の落ちた情報が、ノイズとして混ざってしまうことで、逆に課題解決の妨げになることもあります。さらに、クラウド型AIモデルの多くは、取り扱うデータ量に応じた従量課金制です。手元にあるすべての情報を都度渡していては、コストが膨らみます。

これらの課題を解決する方法はいくつかありますが、今回は比較的低コストでクイックに始められる方法を、NTT DATAの実例も交えて紹介します。

3．Azure OpenAI Serviceと社内ナレッジの連携

セキュリティ面のリスクやノイズ、コストの問題を解決する手段の一つが、Azure OpenAI Serviceの活用です。Microsoftが提供するクラウドプラットフォームの一部であり、データ保護とプライバシーに厳格な規制を遵守しています。また、柔軟なスケーラビリティや管理機能、言語モデルだけではなく、画像生成などのモデルを利用できることもメリットの一つです。Azure OpenAI Serviceには、独自のデータを使用できる「On Your Data」機能があります。この機能では独自のデータと生成AIモデルを簡単に連携させることができるため、生成AIモデルが知らない独自のデータを参照した回答を生成可能です。

NTT DATAでは、この「On Your Data」機能をグループ内で展開しているナレッジシェアの仕組みと連携させています。企業内で蓄積された非公開情報やナレッジのうち、解決したい課題にマッチする情報のみに絞って生成AIに参照させることで、ノイズを除去しつつ、かつ公開情報では回答しえない情報のアウトプットが得られるような仕組みを構築しました。

また、さらに高精度で広範囲な情報を効率的に取得できるようにするために、企業内の非公開情報やナレッジだけでなく、Web上の公開情報も同時に組み合わせて回答を導き出す仕組みの構築も進めています。例えば、技術に関する情報の探索であれば、社内情報からは過去の実績に基づく技術ナレッジやノウハウから自社独自の回答を得つつ、同時に最新のWeb上の技術情報も参照し、総合的に見て妥当性の高い回答が一度に得られるような仕組みです。このような仕組みによって社内情報と最新の外部情報を組み合わせることで、よりトレンドに沿った包括的な情報活用を促進することができると考えています。

NTT DATAでは、このナレッジシェアの仕組みの導入によって、必要な情報をスピーディーに取得できるようになり、日々の業務における情報収集が効率化しただけでなく、情報共有や活用の機会も増えています。特に、組織を越えた情報共有が活発になり、幅広い知見を得ることができケイパビリティが向上しています。

図：Azure OpenAI Serviceと社内ナレッジを連携する仕組み

4．おわりに

生成AI、特に大規模言語モデル（LLM）は主に公開情報を情報源としていますが、これと企業内の非公開情報やナレッジを融合させることは、昨今のビジネスにおいて競争優位を確立するための強力なツールとなる可能性があります。

例えば生成AIを通じて顧客企業のIR情報やニュース等の公開情報と、自社の営業活動で得られた顧客要望や課題、自社の製品・ソリューション情報などをかけ合わせ、顧客課題に対する解決策を探索することも可能です。そこからアイデアを得て提案活動に盛り込むことも出来るでしょう。
NTT DATAにおいても、生成AI活用の幅が広がり、課題形成や仮説立案の段階から生成AIを活用する等、業務が効率化されてきています。

今後は、企業内の非公開情報やナレッジと、Web上の公開情報の組み合わせの選定をユーザに任せるのではなく、それらを自動的に組み合わせて回答を導き出すような「AIエージェント」も実現されてくるでしょう。

NTT DATAでは、こうした将来のビジョンの実現に向けてサービスや製品の開発を進めています。「宝の山」である社内に蓄積された非公開情報やナレッジの真価を、生成AIを通じて最大限に引き出し、未来のビジネス成長を加速させるお手伝いが出来れば幸いです。