AIガバナンスについては、経済産業省がAI社会実装アーキテクチャー検討会を組織し、中間報告として「我が国のAIガバナンスの在り方（※1）」を取りまとめています。法律／規制／AI開発活用企業／保険や監査など、多方面から専門家が参加し、国内外の動向を踏まえた上で、AI利用の段階定義や立法などの手段も含めてどのようにルールを定めていくべきか、の議論がなされています。
NTTデータにおいても、社会インフラを担う大規模SIerの立場として、AIシステムの開発／運用／利活用を中心としたAIガバナンスの取り組みを拡大・継続してきました（※2）。具体的には、AI指針、AI開発プロセス、及び、AI品質アセスメントサービスの整備などです。これらに加えて、2021年4月には、社会デザイン・ソフトウェア工学／法務・倫理／レジリエンス・SDGsなど様々な分野の社外有識者からなる「AIアドバイザリーボード」を設立しました。AI利活用に関する技術動向、法令・規制、市民社会の認識について、有識者と当社の幹部層及びAIプロジェクトに関わる現場最前線のメンバーが議論をし、その結果をAIガバナンスの具体的な手段に取り入れていく活動になります。

図1：AIアドバイザリーボードの活動

図2：AIアドバイザリーボードの外部有識者メンバー

2021年4月に開催したAIアドバイザリーボード第1回総会では、各有識者と幹部層が、現状の取り組み状況と目指すべき状態について、多様な観点で意見交換を行いました。議論時に出た意見をピックアップして紹介します。

図3：意見交換会参加メンバー（NTTデータ側）

ご意見（1）：森川先生

AIビジネスの市場を考えた時に、アルゴリズム本体での差別化から獲得できる市場は相対的に少しずつ小さくなっていくと考えています。そうするとAIガバナンスの部分が実は事業の視点からも重要で、ガバナンスと一体でビジネスを先んじていく視点があってもよいかと思っています。また、倫理委員会などの観点も含めて、全部包含した機能としてのAIガバナンスを描ければ面白い。道を作っていく開拓段階からのスタートになりますが、NTTデータがやらねば誰がやるのか、という大きな話だと思います。

図4：森川先生

ご意見（2）：石川先生

現状の開発プロセスのガイドなどの取り組みを通じて、AIプロダクトを送り出す開発者の不安を解消できた、効率化できた、というのは素晴らしいことですし、NTTデータの中の話だけでなく、お客様側にも必ず効果が出ていると思います。これをお客様との共創やロングタームリレーションシップと直結した絵として描ければ、本当にガバナンスという形で顧客価値に繋がり、大変良くなると思います。

図5：石川先生

ご意見（3）：三部先生

法律が元々AIを想定せずに作られているため、AIは現行法、法律との衝突が起こりやすくなっています。今後のプロセスでは、法律に抵触するか否かの意識と対応策を織り込んでいただくのが大切と思っています。対応策としては大きく分けて3種類（法律を守る／技術を工夫して回避する／規制の緩和や打破を図る）があります。特に近年、欧州やアメリカでは新たに法律を作る方向で動き出していますので、そういった法整備の動きも意識してビジネスを進めていく対応が必要だと考えています。

図6：三部先生

ご意見（4）：奈良先生

消費者はAIに対して期待と不安の両方を感じています。AIによる情報漏洩等を通じて自分の人生や生活基盤がダメージを受けるかもしれない、という懸念に対しては、信頼構築を着実に進めていく必要があります。リスク管理者には高い専門性、透明性・公平性があること、また、自分たちと価値を共有していることを、消費者に認識してもらうことが大事になってきます。そのためにも、まずはNTTデータグループの考えるAIガバナンスとは何か？をきちんと定義して、対外的にも対内的にも共有しておくことが必要だと考えています。

図7：奈良先生

ご意見（5）：成原先生

学習データや学習方法によってAIの動作が変わるため、学習データの品質保証といった利用段階での管理のプロセスも扱う必要があります。開発と利用が両輪となってAIガバナンスを実現していくべきと考えます。また、AIはクラウド／IoT／データ等と一体的に利用されるものですので、AIだけを切り出すのではなく繋がりを意識して検討を進めるのが良いと思います。自治体などITベンダーにとっての直接のお客様の背後に住民など間接的にAIの影響を受ける人々がいることにも留意し、広く社会にとって望ましい状態を考えることが重要です。

図8：成原先生

NTTデータ：藤原副社長

従来のウォーターフォール開発は、お客様が定めた要件を満たすようにシステムを構築していくというものですが、完成までの一連のプロセスにはお客様に相当関与いただき、受入テストの実施など、さまざまなリスクヘッジをしています。今後、アジャイル開発等にシフトしていくと、お客様自身が最終形の答えを持っていない状態でプロジェクトを進めていくことが増えていきます。そこで、広い意味でのガバナンスやリスクマネジメントの方法について、模索をしながら、契約面も含めて見直しをかけようとしています。さらにAIが絡むと、学習に用いるデータの品質、学習によるモデルの進化等も考えていく必要があり、単純に求められた要件を満たしていればよい、という話ではなくなってきていると、有識者の先生方の話から改めて思いました。さまざまな視点から物事を考えて、会社の意思決定のプロセスを見直していくことも検討していきたいと考えています。

AIガバナンスに関する議論や具体的なルール整備の動きは欧米で進んでおり、日本においても近々議論が活発になると考えられます。海外動向や日本政府の動きを注視しつつ、可能な範囲で具体的な対応の検討を始めていくことが重要です。NTTデータは、AIアドバイザリーボードでの議論結果も取り入れながら、AI関連プロジェクトの問題発生を抑制するとともに、お客様に品質や信頼性が確保されたAIソリューションを提供し、安心・安全なAIの普及に努めます。

動画：AIアドバイザリーボードを設置し、AIガバナンスを強化！（幹部インタビュー）

動画：AIアドバイザリーボード第一回総会 NTTデータ幹部層と外部有識者の意見交換（当日の意見交換の様子）

AIアドバイザリーボード総会 議事抄録