AIのリスクマネジメント強化を目的とした「AIガバナンス室」の新設

背景

AI（機械学習・人工知能）は、その性能の進展に伴い、社会実装の範囲も、予測・分類といった用途から、対話や生成といった人的業務の代行まで拡大を続けています。一方で、倫理・社会受容性の問題に起因し、大きな金銭的インパクトを生じる問題も国内外で発生しています。加えて、権利侵害を伴うAIの利用に対しては、制裁金を科す規制案の検討が進んでいる地域もあります。

以上の背景から、AI活用による価値創出を指向する当社のお客さまにとっても、AIの不適切な利用によって社会的批判を生じるリスク、ならびにAIに対する法規制による制裁金リスクが生じつつあります。

経緯

当社では、公平かつ健全なAI活用による価値創造と持続的な社会の発展に向けた活動を実施してきました。2019年には人間とAIが共生する「より豊かで調和のとれた社会」の実現に貢献するため、「NTTデータグループAI指針」を策定し^注1、2021年にはAIアドバイザリーボードを創設^注2することで、外部有識者の知見を取り入れ、AI活用に関わるリスクマネジメントのあるべき姿について構想を具体化してきました。

ミッション

NTTデータは、当社がお客さまへ提供するAIシステムおよび当社内システムを対象に、AIの不適切な利用によって生じる社会的批判のリスク、法規制の制裁金リスクらの事業リスクを抑止するための組織として、AIガバナンス室を2023年4月1日に設置します。

本組織では、国内外の重大トラブル事例や法規制を踏まえたリスクベースアプローチの考え方に基づき、NTTデータのAI活用プロジェクトにおける事業リスクを検知するルール・体制を整備し、プロジェクトと一体となって対処を実施します。

これらの活動を通じ、NTTデータは、ビジネスに影響するAIの不適切な利用による事業リスクに適切に対処し、お客さまに安全なAIシステムの提供を実現します。

推進体制

AIガバナンス室は、最新のAI関連技術情報の集約、プロジェクトに対する技術支援機能とのシナジーを可能とするために、技術革新統括本部内に設置します。

マテリアリティとの関係

当社では、本組織の活動は、サステナビリティ経営のマテリアリティ（重要課題）^注3における「Human Rights & DEI」の1つに位置づけ、「テクノロジー倫理とAIガバナンス」として取り組んでいます。本組織の活動を通じて、多様な観点でAIプロジェクトにおける問題発生を抑制するとともに、提供するAIソリューションの品質／信頼性を向上させることにより、社会とお客さまがAI活用による恩恵を最大限に享受し、サステナブルな社会を実現できる環境を整備していきます。