AI（人工知能）-ガバナンス

生成AIの登場により、AIに関する国内外の状況が大きく変化したことで、国際的な動向や与党からの提言も踏まえ、2023年5月に内閣府にAI戦略会議が設置され、日本のAI戦略が大きく変わりました。

まず、内閣府、総務省、経済産業省が連携して事業者向けの新たな統合ガイドラインである「AI事業者ガイドライン」が策定され2024年4月に公開されました。これは、総務省の「AI開発ガイドライン」と「AI利活用ガイドライン」、経済産業省の「AI原則実践のためのガバナンスガイドライン」の3つをベースに、生成AIなど新しい要素も取り込み、まとめたものです。

また、2024年5月のAI戦略会議では、大規模基盤モデルなど、社会的影響が大きくリスクも高いAI開発事業者を対象にしたソフトローを補完する法制度の要否を検討する「AI制度研究会」を設置し、夏から議論を開始することが表明されました。8月に第1回会合が開催され、岸田首相はリスクの大きさに応じた対策が必要とし「リスク対応とイノベーション促進の両立」「柔軟な制度設計」「国際的な相互運用性」などを原則に掲げました。今後はAI開発者や専門家へのヒアリングを踏まえて秋に中間とりまとめを行い、政府は提言を受けて早ければ来年の通常国会への法案提出を目指す見込みです。

2022年まではプライバシーや金融、雇用など分野ごとにAI利用の法規制が進められてきました。また、AIを用いたシステムを設計、使用する際に考慮すべき5つの原則を定めた「AI権利章典」の検討や、AIによる市民の自由意志や差別、組織の評判やセキュリティ、グローバルな金融システムやサプライチェーンへの悪影響を想定した「AIリスクマネジメントフレームワーク」といったハードローとソフトローの両面からの規制強化が行われてきました。

その後、2023年10月末に発効されたAIの安全性に関する大統領令に基づいて政府機関で規制強化が行われ、2024年3月末に全政府機関に、最高AI責任者（CAIO）の任命およびAI年次報告書の行政管理予算局（OMB）への提出が義務付けられました。
2024年7月にはAIリスクマネジメントフレームワークの生成AIプロファイルが公開され、特有の12のリスクとその対処法の詳細がまとめられています。

また、2024年8月末にカリフォルニア州で、フロンティアAIモデルの安心・安全を実現するための法規制が可決され、州知事の署名が行われるか注目されています。EUのAI規制法の「Foundation Model」への規制と類似していますが、罰金はEUよりも厳しくなる可能性があります。

2021年4月に法案が公開されたEUのAI規制法は、2024年3月に欧州議会で可決、5月に加盟国による理事会で承認され成立し、7月12日に公布、8月1日に発効しました。半年後の2025年2月2日から「受容できないAI」の禁止が施行されます。今後は法の執行を担う「AIオフィス」が作成する「受容できないAIに関するガイドライン」や「域外適用に関するガイドライン」の公開が待たれます。

この法律は「リスクベース・アプローチ」により倫理の観点からリスクを4つにカテゴライズし、対策を義務づけています。

「受容できないAI」は「人々の安全や権利に対して明らかに驚異のあるAIシステム」で、サブリミナルや公的機関の社会的スコア利用が該当し、原則、禁止されます。「ハイリスクAI」は「人々の安全や権利に悪影響を及ぼす可能性があるAIシステム」で、医療や自動運転、人事などが該当し、適合性評価として第三者認証の取得や提供者と利用者に運用上の義務が課されます。

生成AIは「Foundation Model」として、モデルの提供者に対して運用上の義務と透明性義務や学習データ開示義務などの規制が課されます。

違反者には最大で3,500万€あるいは全世界売上高の7％の大きい方の金額という巨額の賠償金が課されます。

2023年のG7広島サミットではグローバルAIガバナンスが主要トピックとして取り上げられ、責任あるイノベーションと実装の推進が宣言され、AIガバナンスの相互運用性の確保に向けて、国際機関を通じた国際技術標準の開発および採用の推進が表明されました。

また、生成AIに関して議論する「広島AIプロセス」が創設され、定期的な議論の結果、12月に「広島AIプロセス包括的政策枠組み」が承認されました。4つの文書と今後の作業計画が取りまとめられ、2024年の議長国イタリアに引き継がれました。主に、12条からなる国際指針と、指針に対してAI開発企業が取るべき対策を例示した行動規範で構成され、AI関連企業が製品を市場に投入する前に外部の専門家のチェックを受けることや、人がつくったものと区別するためAIの生成物には原則として「電子透かし」の導入等が推奨されています。

2024年5月のOECD閣僚会合で新たな国際枠組みとして「広島AIプロセス フレンズグループ」が創設され、OECD加盟国を中心に49の国と地域が賛同しました。

また、6月のG7イタリアサミットでは、国際行動規範に基づいたモニタリングについて10月の担当大臣会合を視野に試験運用への期待が示され、7月から9月にかけて試験運用が行われました。

• 中国は2022年にレコメンド等のアルゴリズムで差別を禁止する規制法、2023年8月に生成AI規制を施行するなど独自で法規制を強化しています。
• OECDが2019年5月に公開したAI原則は、世界中で作成されているAI原則やガイドラインの根本になるものといわれています。生成AIの登場を踏まえて見直しが行われ、2024年5月にプライバシーや知財権、安全性、情報の完全性などの課題への対応要請に加えて、環境の持続可能性も明示するように改定されました。
• 2023年11月にイギリスでAI安全サミットの第1回が開催され、G7に加えて中国も参加し合計28か国で生成AIや汎用AIをフロンティアAIとして、その安全性に取り組むことを合意しました。2024年5月にソウルで第2回が開催され、大規模言語モデルなど最新AIを開発する企業には特別な責任があること、AIの活用で世界の難課題を解決し、誰でもAIの恩恵を受けられるようデジタル格差の解消に向けた国際協力の強化を盛り込んだソウル宣言を採択しました。
• 国連から6月に偽情報やヘイトスピーチの拡散から生じる危害を防ぐとともに、AIを安全に開発・利用するための枠組みである「情報の誠実性のための国連グローバル原則」が発表されました。