AIアドバイザリーボードについて
2021年4月に、社会デザイン・ソフトウェア工学／法務・倫理／リスクマネジメント・SDGsなどさまざまな分野の社外有識者からなる「AIアドバイザリーボード」を設立しました。本ボードはAI利活用に関する技術動向、法令・規制、市民社会の認識について、有識者と幹部マネジメント層及びAIプロジェクトに関わる現場最前線のメンバーが議論をし、その結果をAIガバナンスの具体的な手段に取り入れていくことを目的としています。第一回勉強会（※2）では「政策動向を意識したAI活用」、第二回勉強会（※3）では「AIが浮き彫りにしたプライバシーと差別の課題」、第三回勉強会（※4）では「AIシステムの品質と倫理」、をテーマにそれぞれ議論してきており、今回第四回の開催に至りました。
図1：AIアドバイザリーボードの外部有識者メンバーと運用
AIガバナンスとリスクコミュニケーション：ユーザの視点から
第四回勉強会では、奈良由美子先生が「リスクコミュニケーション」について講演しました。
（1）リスクコミュニケーションとAIの関係
最初に、リスクコミュニケーション（以降：リスコミと略する）の定義について、個人・機関・集団間での情報や意見のやりとりを通じて、リスク情報とその見方の共有を目指す活動であり、リスクへの適切な対応のためにリスクマネジメントと一体化して行われるものであることを解説されました。AIとリスコミの関係として2つの方向性「（1）リスコミの質を良くするためにAIを利活用する」「（2）AIの安心安全な利活用をするためにリスコミを行う」を示され、主に（2）に関して、総務省AIネットワーク社会推進会議の報告書でまとめられている、リスクシナリオ分析や対処手順の内容を紹介されました。
（2）AIにおける認知のバイアスの影響
リスクの見積りに関して、100人いれば100通りの考え方や捉え方があり、人の心理や主観による感情が入ってくる点、及び様々な認知のバイアスが掛かる点について述べられました。認知のバイアスとは、自分が制御できるリスクは小さく見積もり、制御不能なリスクは大きく見積もりやすい、便益が明確でない場合や未知な物に対してリスクを過大評価しやすい、リスクに関わっている機関に対する信頼度が低いとリスクが大きく見積もられやすい、といった性質を指します。これを裏付ける調査結果として、前提知識のある研究者と比較して、一般市民はAIへの不信感・不安感が強くなる傾向にある旨を紹介されました。
（3）リスコミ実施における要点
リスコミの本質として、リスクへの適切な対応のために行われるものであり、多様な関係者のなかで行われ、関与者の相互作用を重視し、信頼が必要、という原則論を改めて確認した上で、全体像（何のために、いつ、どこで、誰と、何についてリスコミするのか）を描くことの重要性を述べられました。また、実施におけるテクニックも併せて解説されました。具体的なテクニックのひとつとしては、リスク情報を伝えるリスクメッセージを用意し、良いことだけではなくリスクや反対論も併せて伝える「両面的コミュニケーション」を挙げられました。メッセージには、どのようなリスクか、リスクアセスメントの不確実性、リスク管理方法と有効性、個人がとりうる対策、などをわかりやすく表現することが大事で、検証可能性の担保も必要との見解を示されました。最後に、AIガバナンス・エコシステムの考え方を紹介され、組織の外のステークホルダーと協力できるような場や機会を作る必要がある、と述べられました。
図2：「AIガバナンスとリスクコミュニケーション」講演資料サンプルイメージ
NTTデータにおけるAIガバナンスの検討状況
NTTデータの技術開発本部より、AIガバナンス活動の進捗状況と、今後に向けた検討状況を紹介しました。まずAIアドバイザリーボードを通じて指摘いただいた示唆として、「当社のAIガバナンスの定義やコンセプト、スコープの明確化」、「ガバナンスの観点として、ステークホルダーの意識、法規制や倫理・社会受容性の考慮」、「実効性のある体制作りとして既存の体制への組み込み、多様性の確保」を挙げました。これらの示唆を踏まえて、「AIプロジェクトリスクコントロール」として、「ドキュメントの整備」や「セミナ等による社内のAIリスクリテラシー向上」、および「全社プロジェクトリスクマネジメント体制へのAIリスク発見と対処の組入れ」などの取り組みの推進について説明しました。最後に、既に社内展開を開始しているAI開発方法論やAI品質アセスメントの適用件数が倍増し、AIガバナンスに関連したお客様からの依頼案件も増加している点を紹介しました。
図3：AIアドバイザリーボードを通じていただいた示唆
活発な議論の一部をご紹介
1．リスコミを成功させるには
リスコミをうまく進めるための工夫や手法について、議論を行いました。参考として、良いことのみを語り、リスクを伝えなかったことで、事故の発生により信頼が低下したインフラサービスを事例に、何かあったときにどう手を打つのか、個人でもできる対応を伝える、といった両面的コミュニケーションの重要性を確認しました。また、テクニックだけでなく、価値観を決めつけず多様性を理解して共感する、といった心構えについても理解を深めました。
2．AI分野でのリスク開示と説明の粒度、落としどころについて
AI分野でリスクをどこまで開示し、どの粒度で説明すれば良いかについて、議論を行いました。お客様がキーワードは知っているが中身を深くは理解していない状態で説明を求められた場合の対処に関して、奈良先生からは、まずはわかりやすい言葉で一通り良いことも悪いことも情報を提示し、より詳しいことも調べられるよう参考情報をお知らせすることで、良い情報と悪い情報のバランスも考慮して納得感を得ていただくことが重要、との見解をいただきました。
また、AI分野ではリスクを下げるために必要なコストとのバランスについても考える必要があり、落としどころをどう見極めるべきかについて、議論を行いました。AIのようなエマージングなリスクについてはお手本となる歴史的教訓が無いため、原理・原則に則ってブレないコミュニケーションをしていくことが対策となり、すぐに結論を出せない場合は、結論保留コミュニケーションで、ユーザと一緒に考え答えに導いていくやり方もある、との意見が挙がりました。
3．サステナビリティとAIガバナンス
次のステップとして、AIガバナンス・エコシステムを考慮した場合に、一般市民など各ステークホルダーのAIリテラシーをどう高めていくのかについて、議論を行いました。社会貢献活動として、AIリテラシー市民講座を開催するなど、ブランディングを意識しながら市民のリテラシーを楽しく優しく高める案などが挙がりました。
最後に
今回の勉強会では、リスコミを題材に、社会受容性を高めていくためには、リスクの捉え方が人によって異なることを理解し誠実なコミュニケーションを続ける必要があることが示されました。AI分野においては、テクノロジーの性質上ゼロリスクにすることは不可能であり、過度な不安も伴うことを考慮し、適切な対応の在り方を探っていく必要があります。NTTデータは、AIアドバイザリーボードでの議論結果を取り入れつつ、AI関連プロジェクトにおける問題発生を抑制するとともに、提供するAIソリューションの品質／信頼性を向上し、安心・安全なAIを利活用できる環境を整備していきます。
