目次

• 生成AIがもたらす働き方改革
• 生成AIを用いたチャットサービス
• 生成AIを用いた社内ナレッジ検索
• 生成AIの全社導入効果
• おわりに

生成AIがもたらす働き方改革

生成AIの進化はめざましく、さまざまな業界でその活用が進んでいます。この流れを受けて、NTT DATAでも生成AIの活用に注力し、全社的な導入を進めています。まずは、その背景と未来像を紹介しましょう。

取り組みの背景

ChatGPTの登場以降、生成AIの業務利用への期待が急激に高まっていますが、NTT DATA社内でも、現場の社員一人一人の業務をサポートできる実用的なサービスとして期待されていました。

生成AIを活用した働き方の未来像

NTT DATAでは自社開発の生成AIサービスの活用を行っており、それと並行してMicrosoft社の提供する生成AIサービス（Copilot、Copilot for Microsoft 365など）も活用しています。将来的には業務の基本となる三要素、インプット（Input）」「処理（Process）」「アウトプット（Output）」のすべてのプロセスで生成AIが活用できると考えています。

図1：業務プロセス別生成AI活用イメージ

上記の未来像に向けて、汎用チャット、社内ナレッジ検索から始まり、さらなる機能高度化に向けたサービス拡充に取り組んでいます。また、社員一人一人の業務を実質的にサポートできる精度と性能を求め、単なる生成AIの導入だけでなく、NTT DATA独自開発のクローラー（LITRON^® Generative Assistant）と組み合わせることで、より社員満足度の高いサービスを実現しています。

生成AIを用いたチャットサービス

生成AIの全社導入の初めの一歩として、生成AIを用いたチャットサービスの構築があります。

社員の日常業務の効率化を支援すべく、当社はいち早くサービスの開発に着手しました。全社員12,000人（NTT DATA単体）の利用を見越した設計や、セキュリティ対策を充分に講じたうえで、OSS アプリケーションやMicrosoft Azureのサービスを活用し、2023年7月には先行利用を開始し、2023年10月には正式に全社導入することに成功しました。また、サービス構築時に利用状況を分析する仕組みも整備しました。定期的にサービス利用者数・各社員の利用回数などをモニタリングし、課題抽出から機能改善を実施しています。

機能改善の取り組みの一つとして、プロンプトテンプレート（※1）機能を導入しました。社員自身が頻繁に利用するプロンプトテンプレートを事前に登録し、利用時に都度呼び出せる機能です。また、日ごろのOA業務（オフィス業務・事務作業）に即したプロンプトを開発者側から提供しており、生成AIをあまり利用したことがない社員へのプロンプトの作り方教材としても活躍しています。

図2：開発者側提供のプロンプトテンプレートの一例

生成AIの汎用チャットサービスを構築するだけでなく、利用状況を定期的にモニタリングし、社員の生産性向上につながるよう日々機能改善を検討・実施しています。

生成AIを用いた社内ナレッジ検索

生成AIを用いたチャットサービスを介して、文章作成やアイデア出し、技術調査といった汎用的な業務への負担軽減に貢献できることをご紹介しました。しかし、社員の労働時間の多くを占めるプロセスは他にも存在します。その一つが、複数の社内サイト上に存在する膨大な社内マニュアルや規程類、といったサイロ化された社内情報を検索する業務です。このように本来の業務ではなく、「どこを確認すればよいのか」「誰に聞けば解決できるのか」など情報検索することに多くの時間を消費してしまうことがよくあるのではないでしょうか。

そこで、当社では社内情報を統合的に取得し、自然言語で回答する機能を開発しました。2024年2月より先行利用を開始し、同年4月からは全社員12,000人を対象に正式な社内サービスとして提供しています。

図3：生成AIを用いた社内ナレッジ検索機能概要

生成AI自体はオープンデータを学習しているため、組織が保有する社内情報は理解していません。そこで、本機能開発においては、収集した情報を参照することでより正確な回答を生成するRAG（Retrieval-Augmented Generation）と呼ばれる機構を採用しています。

本社内ナレッジ検索機能は生成AI技術とNTT DATA独自開発のクローラー（LITRON^® Generative Assistant）によって構成されています。そのため、精度の高い回答を実現するだけでなく、単なるRAGでは実現できないような「表の位置関係を踏まえた検索」、「画像データも検索対象」、「Webサイト上のドキュメントリンクの資料内容まで踏まえた検索」が可能です。

また、「差分更新部分を検知し自動情報収集」も可能となっており、RAGシステムでの課題となりやすい運用面においても、自動運用が可能です。これにより、日次更新で最新の情報を取り入れ、社員の業務を支援しています。

生成AIの全社導入効果

当社では前述した開発ステップで、生成AIを用いたチャットサービスと社内ナレッジ検索を導入してきました。これらの取り組みが利用社員に及ぼした具体的な影響について紹介します。

生成AIを用いたチャットサービス導入から4カ月後、利用社員にアンケートを実施したところ、多岐にわたる組織・役職・職種から回答が得られました。主な用途は、情報検索や質問、アイデア出し、文章作成や校正が多く、日頃の汎用的な業務において生成AIを活用されていることが分かりました。また、本サービスの平均利用頻度は週に1回程度であり、利用により削減できると感じた業務時間の平均は1週間のうち約30分でありました。9割以上の社員から今後も継続して利用したいとの声を得られたことからも、生成AIを全社に導入することで社員の生産性向上に大いに貢献できることを確信しました。

今後さらなる利用者数の拡大ならびに利用頻度の増加に向け、現在、利用社員をセグメントした分析を実施しています。図4のように、それぞれの社員が抱える課題の仮説を立て、有効な対策を検討しています。活用ガイドやプロンプトテンプレートの拡充、UIの改善、さらなる高度な機能追加など、社員それぞれの特性にあわせた施策を検討し、機能改善に取り組んでいます。

図4：活用推進のペルソナマップ

おわりに

本記事では、生成AIの全社導入における当社の事例と見解を紹介しました。今後は、業務用途での日本語精度向上の検証を目的とした「tsuzumi（NTTが開発した大規模言語モデル）」の導入などに取り組んで参ります。

生成AIの発展は著しく、今後も情報のアップデートが必要です。NTT DATAでは、お客さまの業務に最適なシステムの提案やシステム開発の支援を行うために、これからもさまざまな生成AIの調査と検証を継続してまいります。生成AIの活用についてお困りの際は、当社にお声がけください。