AIアドバイザリーボードについて
2021年4月に、社会デザイン・ソフトウェア工学／法務・倫理／リスクマネジメント・SDGsなどさまざまな分野の社外有識者からなる「AIアドバイザリーボード」を設立しました。AI利活用に関する技術動向、法令・規制、市民社会の認識について、有識者と幹部マネジメント層及びAIプロジェクトに関わる現場最前線のメンバーが議論をし、その結果をAIガバナンスの具体的な手段に取り入れていく活動になります。
図1：AIアドバイザリーボードの外部有識者メンバーと運用
AIビジネスをめぐる欧米の法・倫理の動向と日本の現況
第一回勉強会では、三部裕幸先生が「AIビジネス・スマートシティビジネスのリスクマネジメント―欧米の法・倫理の動向と日本の現況」について講演しました。
現行の法律はAIを念頭に置かずに作られているため、AIには法律に違反・衝突しやすいという問題点があります。このことを踏まえて、企業がAIビジネスを安全に実施するために考慮すべき3つの重要な観点を紹介いただきました。それは、（1）米欧の新たなルール・法律づくりの動きに対応する、（2）現行の規制対策をする（順守する、技術的に回避する、または規制緩和を求める）、（3）ステークホルダーを意識する、です。
（1）「米欧の新たなルール・法律づくりの動きに対応する」
EUでは既にAI規則案が公表されており、その違反にはEU域外の企業であっても巨額の制裁金が課される恐れがあること、アメリカでもAIルールが必要だと大統領が明言するなどAIのルールを策定する動きがあることなどが解説されました。そして、日本でも欧米に追随してのAI法制化が遅かれ早かれ見込まれるとの説明がありました。
（2）「現行の規制対策をする（順守する、技術的に回避する、または規制緩和を求める）」
英国サウスウェールズ警察が採用した犯罪防止のための顔認証システムが裁判で違法とされ利用停止になったケースなどが紹介されました。AIサービスを企画する時点から、それが現行法に抵触しないかを検討し、前もって対策することが必要となります。
（3）「ステークホルダーを意識する」
予想外のステークホルダーから反対を受けてAIビジネスがストップしたケースが紹介され、AIによって影響を受けるステークホルダーの範囲をこれまでのビジネスのステークホルダー以上に広く捉える必要があることが強調されました。
これらを踏まえ、個人情報を他社に開示せず学習モデルのみを共有する手法として開発された「連合学習（Federated Learning）」を例にとって、国内外の状況をもとに、どのような検討が必要となるのかの解説がありました。
最後に、企業におけるAIガバナンス推進体制に関して、三部先生の企業への助言経験や総務省の委員としての海外調査などをもとにした提案がありました。既存組織を利用し時間と人手をかけないAIガバナンスと、そのためのリテラシ教育の重要性が述べられました。
図2：「AIビジネス・スマートシティビジネスのリスクマネジメント」講演資料サンプルイメージ
システム開発プロジェクトにおけるガバナンス
一方、NTTデータ側からは、社内で運用されている実際のプロジェクトガバナンスやデータガバナンスについて、体制や運用の枠組みを紹介しました。これらはシステム開発やシステム運用を対象に設計されたものであるため、今回焦点となっているAIガバナンスの観点は含まれていません。リスクマネジメント観点で捉えた場合、法律や政策、倫理などの面でAIガバナンスとしての対策を施し問題を防ぐには、どのような体制・運用にしていく必要があるのか、議論のきっかけとなりました。
図3：リスクマネジメント体制
活発な議論の一部をご紹介
1.EUのAI規則案について
EUのAI規則案は、日本語の「規則」という言葉から受ける印象と異なり、EU全体に直接適用される強力なルールとなるため、その影響について活発な議論が交わされました。たとえば、AI規則案が法制化されるまでにGDPR（※2）と同様に4年程度掛かるのではないかとも報じられているが、いつ頃日本に影響が出るのか、それまでの期間にできることは何か、といった具体的なスケジュール感や対応策を議論しました。
三部先生からは、次のとおり説明がありました（※3）。
- 2022年後半には、AI規則案が法制化されて効力を生じるシナリオがあり得る
- 法制化されると、事業者向けに施行するための移行期間に入り、その期間で具体的な基準が作られる
- そして、最速で2024年後半に事業者向けに完全施行される
2022年後半にはEUとのAIビジネスにおいてAI規則（案）の影響が生じる可能性がある中で、三部先生からは、次の通りコメントがありました。
- 「AIビジネスが今回のAI規則案やその基礎をなすEUの価値観・方向性に反すると、AIビジネスが後戻りするリスクがある」
- 「そうならないように、今からAIビジネスを構築・検討し、AIビジネスの中に先取りしておくことが肝要だ」
- 「AIの価値観・方向性は明確なので、先取りすることは困難ではない」
2.AIガバナンスの体制と具体的な方法について
組織運営的な観点も含めて、実効力のある運用を実現するにはどのような体制を組むのが良いのか、また経験のない領域でビジネスを開始する場合、ステークホルダーの影響範囲をどのように洗い出しリスクチェックするのか、といった着実に取り組みを進めるための方策を議論しました。NTTデータ側からは、「中期経営計画においてグローバルな事業拡大を避けて通れない状況にあり、その中でもAIは重要なツールになってくる。リスクマネジメントの観点でAIのビジネスにアジャストしていく必要があると考えている」といったコメントがありました。
EU内における個人情報保護のため、2018年に施行された法律。
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
最後に
AIの活用範囲が広がってきたこと、EUのAI規制案が大きなニュースになったこと、などを背景として、AIガバナンスは各所で本腰を入れた検討が始まっています。NTTデータは、AIアドバイザリーボードでの議論結果を取り入れつつ、AI関連プロジェクトにおける問題発生を抑制するとともに、提供するAIソリューションの品質／信頼性を向上し、安心・安全なAIを利活用できる環境を整備していきます。
