目次

• 1．ChatGPT活用による企業のカスタマーサポートへの期待の高まり
• 2．一般的なChatGPTチャットボットの課題とその対策
• 3．ChatGPTチャットボットのプロトタイプ構築・技術検証事例
• 4．最後に

1．ChatGPT活用による企業のカスタマーサポートへの期待の高まり

企業の顧客接点となるカスタマーサポートは、企業のブランドイメージの醸成に寄与するだけでなく、直接顧客から製品やサービスの良し悪しのフィードバックを得られるため、経営上重要な位置づけです。
一方で、問い合わせ件数が増えることに伴う人件費の増加や、一貫した質の高いサービスを提供することが難しいといった、カスタマーサポート業務に関する課題を抱えている企業も多くあります。特に、専門性の高い問い合わせ業務では、マニュアルや根拠資料の確認が必須で、その確認作業が大きな業務負担となっていました。

そこで導入され始めたのがチャットボットです。2010年代の中盤以降、AI技術の進化やクラウドサービスの普及とともに、大手企業が顧客対応を効率化するためにチャットボットを導入し始めました。
しかし、従来のチャットボットは事前作成されたシナリオやFAQに基づく回答になるため、あらかじめ用意したFAQ以外の回答はできませんでした。また回答精度を維持するために、類義語や回答文を更新し続ける必要があり、メンテナンスコストが高くなるという、費用面の課題もありました。

このチャットボットの課題解決に大きく貢献しているのが、近年進化しているGPT技術です。ChatGPTチャットボットははより幅広い質問に柔軟に答えることができ、従来のようなFAQ作成や類義語登録が不要になったのです。この結果、初期費・運用費の削減やカスタマーサポートの時間的効率化を実現し、さらに顧客満足度の向上にも貢献することが期待されています。

2．一般的なChatGPTチャットボットの課題とその対策

しかしChatGPTチャットボットも万能ではありません。特に注意すべき課題を2つ挙げます。
まず、ChatGPTチャットボットはオープンデータを学習しているため、チャットボット導入企業の業務を理解していません。
これに対する対策としては、企業のデータベースの構築とChatGPTを組み合わせることが考えられます（企業等で保有する独自のデータを利用して、LLMから応答を生成するデザインパターンをRAGと呼びます）。具体的には、問い合わせに必要な企業内の業務文書をデータベースとして一元化し、ChatGPTからアクセスさせることで、企業内の業務文書に基づいた回答を得られるのです。

2つ目の課題は、回答の正確性です。ChatGPTチャットボットでは、事実とは異なる内容をもっともらしく回答する、いわゆる「ハルシネーション」と呼ばれる現象が起こることがあります。
この課題は、チャットボットの回答結果に、どの業務文書を根拠に回答したのか引用元を明記することで解消できます。人間が回答の真偽を確かめる余地を残し、信頼性のある回答が可能になるのです。

3．ChatGPTチャットボットのプロトタイプ構築・技術検証事例

前章で挙げた課題に注意しながら、自治体での税務問い合わせ業務へのChatGPT技術の活用に向けたプロトタイプ構築・技術検証事例について紹介します。

各県自治体での県民からの税務に関する問い合わせ対応では、法令・制度やマニュアル／各種文書、有識者への確認を通じて情報収集を行った上で、わかりやすくかつ適切な回答案を作成する必要があります。そのため税務に関する問い合わせ対応は、豊富な経験と専門性の高い知識を要する、非常に気を遣う業務の一つです。
特に、定期的な異動や季節繁忙等もある中で、大量の問い合わせを短期間で対応することが求められる場合には、普段にも増して自治体職員の負担が非常に大きいものとなっていたのです。

そこでNTT DATAでは、ChatGPTを活用した職員支援モデルの実現に向けて、自治体の特性を踏まえたプロトタイプモデルを構築しました。基盤モデルは、Microsoft社の「Azure OpenAI」を採用し、業務文書のデータベース検索には、「Cognitive Search API」を採用しました。

図：チャットボット導入事例のシステム概念図

GPTを搭載したアプリケーションは、基本的に新規でのモデル開発が不要のため、短期間での開発が可能です。そのためすぐにアプリケーションを作り、実際の画面を見ながら議論してユースケースとプロトタイプ仕様を固められました。

しかし、GPTの実用化に向けては、いくつか課題はありました。そのうちの一つが、GPTのトークン数の制限です。開発当時のGPT-3.5入出力は、4096トークン（※1）の制限があり、これは日本語に直すと2000文字程度になります。そのため、Cognitive Search APIの上位スコアの検索結果をそのままChatGPT APIに投げると、GPTのトークン数の制限に引っかかることがありました。そこで検索結果の上位N件に対して、質問文との関連性評価をGPTで行い、検索結果の絞り込み処理を行うようにしたところ、トークン制限に引っかかることがなくなりました。また、検索結果の絞り込み処理を、検索スコアと関連性評価の2段階での絞り込みにしたことで、精度も改善できたのです。

4．最後に

今回ご紹介した適用事例の他にも、ChatGPTチャットボットは、業務効率化や情報提供の正確性向上など、多岐にわたるユースケースで活用されるでしょう。

NTT DATAでは、LITRON（※2）という、「テキストを短時間で高精度に読解できる文書読解AI」のソリューション提供や、ChatGPTを含めた大規模自然言語モデルに関するPoCや業務導入のコンサルティングを提供しています。
今後も、GPT技術と業務情報を組み合わせたチャットボットの拡充に加え、その他さまざまな領域へGPT技術の適用範囲を拡大していきます。