AIアドバイザリーボード、FY2022も継続決定
2021年4月に、社会デザイン・ソフトウェア工学/法務・倫理/リスクマネジメント・SDGsなどさまざまな分野の社外有識者からなる「AIアドバイザリーボード」を設立しました(※1)。AI利活用に関する技術動向や法令・規制、市民社会の認識について、有識者と幹部マネジメント層及びAIプロジェクトに関わる現場最前線のメンバーが議論をし、その結果をNTTデータにおけるAIガバナンスの具体的な手段に取り入れていく活動です。今回、1年間の活動のまとめとなる総会を経て、2022年度も継続が決定しました。
図1:AIアドバイザリーボード2022年度体制
本総会では、NTTデータ技術開発本部 雨宮本部長から1年間の活動結果と今後の方針について説明した後、議論を行いました。
FY2021に得られた示唆およびFY2022の活動方針
これまで、外部委員の先生方から4回の勉強会で様々な観点の話を伺ってきました。(※2)(※3)(※4)(※5)
- (1)欧米の法整備状況、特にEUにおけるAI規制が今後グローバルビジネスに与える影響について
- (2)倫理や個人情報保護の観点で、元々人間の中にあった意識がAIによって顕在化されたこと
- (3)AIの品質と倫理について、学習データの偏りによって不公平が生じ、バイアスがあること
- (4)リスクコミュニケーションの観点で、リスクの捉え方と誠実な対応の必要性について
勉強会を通じて、AIガバナンスにおいては、法律遵守だけでなく、倫理や社会受容性で考慮すべき範囲が拡大することへの配慮が必要であることがまずわかりました。更に社内で実効性のある運用を実現するには既存の体制に組み込みつつリテラシーを高めることが重要で、そしてダイバーシティのある視点を確保することが求められる、といった複数の示唆が得られました。
図2:得られた示唆の一例
NTTデータ社内では、AIガバナンスの重要性に関する認知が高まり、AI品質アセスメントなど具体的な施策の適用件数も増加しました。しかし、プロジェクト現場においてはAIの倫理や社会受容性に対するリスク検討やAIモデルに対する適切な評価指標設計が徹底されていない場面も見られます。今後はAIアドバイザリーボードから得られた示唆も含めた実効的なガイドラインを整備し、プロジェクトの支援機能を強化していく方針を示しました。
AIガバナンス確立に向けた課題と議論
以上の方針に対して、国立情報学研究所 石川先生からは、AIモデルの設計は試行錯誤しながら良い物に辿り着く世界であり、振り返りを通じて理解を深め、改善活動を続けることが重要、とのご意見をいただきました。また九州大学 成原先生からは、アセスメントにあたっては単なる品質のチェックだけではなく、評価の目的や必要性が現場に伝わるような仕組みと、フィードバックを得てガバナンスを見直していく姿勢が重要ではないかとのご意見を頂きました。
次に、AIガバナンスの取り組みを社員や組織、プロジェクトへ展開する具体的な方策として、「IBTやセミナーによるリスクリテラシー向上」「プロジェクトリスクマネジメント体制へ組み入れ」「AI・データ活用リスク対応の技術支援」の3点を推進することを述べました。これに加え、AIプロジェクトを実施している事業部への集中的なセミナー開催や、現場のPMOと連携してAI・データ活用案件への声掛けの実施など、受け身だけでなく攻めの施策も並行して進めていく考えを明らかにしました。
これに対して、東京大学 森川先生からは相談するインセンティブがあると良い旨のご意見と、石川先生からは案件の傾向や統計量から重点対応すべきポイントを絞れるのではないか、とのご指摘をいただきました。
また、レピュテーションリスクへの適切な対処と判断に関して議論がありました。AIを適用したサービスが社会に受容されるか否かの判断をどのように決めるべきかについて、放送大学 奈良先生からは即効性のある対処はなく、市民の受け止めについて例えばアンケート調査やフォーカスグループインタビューで把握したうえで、具体的なストーリーで語りながらコミュニケーションする対応を推奨されました。また、森川先生からはダイバーシティのある小規模な意見照会グループを組成し、利害関係のない立場からの意見をフィードバックとして得る方法について提言をいただきました。
図3:AIガバナンスの確立に向けた取り組み
最後に
座長の森川先生から「AIガバナンスは攻めないといけない。正解は無いが、走りながら知見を蓄え、例年改善していく動きが必要。ぜひNTTデータに日本を先導していって欲しい」との激励をいただきました。
NTTデータ 藤原副社長は、活動の振り返りで外部委員の先生方への感謝を伝えると共に、2022年度はプロジェクトの現場にAIガバナンスを浸透させることに注力し、AIガバナンスや品質に関して、信頼いただけるサービスを提供していきたい、との想いを述べました。
森川先生