[No.132]バイデン政権は連邦省庁にAIの倫理的な運用を指示、アルゴリズムのリスクを検証し安全に運用するための基準を制定、危険なAIは運用を停止
KaoruIimiバイデン政権は連邦省庁に対し、導入しているAIのリスクを査定し、安全に運用するためのガイドラインを制定することを求めた。
これはメモランダムとして発行され、アメリカが責任あるAI開発と運用で世界のリーダーとなることを意図している。連邦省庁は、運用しているAIシステムの棚卸を行い、アルゴリズムのリスクを検証する。これに従って、安全に運用するためのガイドラインを制定し、問題があれば運用を停止する。
原子力発電所の運転、医療機器の制御、自動車や航空機の自動化などが対象となり、バイデン政権はAI規制を自ら実施する姿勢を内外に示した。
メモランダム
バイデン大統領は今週、アメリカが責任あるAI開発と技術革新を推進するための大統領令に署名した(上の写真)。
これに沿って、ホワイトハウスの予算管理部門「Office of Management and Budget (OMB)」はメモランダムを発行し、連邦政府にAIガバナンスを強化することを目的とし、AIを安全に運用するためのガイドラインを制定することを求めた。
アクションの概要
メモランダム(下のグラフィックス)は連邦政府省庁がAIを倫理的に運用するため、包括的なアクションを取ることを求めている。
各省庁はAI責任者「Chief AI Officer」を任命し、AI関連の動きを管轄し、リスクを管理する。同時に、AIの活用を推進するため、各省庁にAI導入の障害を特定し、AIで業務を改善することを求めている。
更に、各省庁は導入されているAIシステムを把握し、これを報告書にまとめることを求めている。
AIの安全検査
このメモランダムの中心は、運用しているAIシステムに関し、安全ガイドライン「Minimum Risk Management Practices」の制定を求めていることである。
安全ガイドラインとは、AIシステムを査定して、アルゴリズムが倫理的に運用されるための条項を定めるものである。
AIシステムは二種類に分類され、それぞれのシステムに対して安全規定を定める：
- Safety-Impacting AI (安全保障) ：国民や社会の安全性に影響を与えるAI。ダム、救急隊、電力網、発電所、投票システム、原子力発電所、自動車、航空機などで使われるAIが対象となる。
- Rights-Impacting AI (権利保障)：国民の権利に影響を与えるAI。警察の監視カメラや犯罪予測システム、学校の生徒監視システム、従業員採用や昇進の判定システム、医療機器制御で使われるAIなどが対象となる。
ガイドライン
各省庁はこれらのAIシステムを倫理的に運用するために、安全ガイドラインを定める。
具体的には、これらのAIのインパクトの査定や性能試験を実施し、また、運用においては定常的に監視し、問題があればこれを是正する手順を定める。
特に、国民の権利に関連するAIシステムの運用では、上記に加え、公正で差別がないことを求めている。
準拠する規格
メモランダムは各省庁に倫理的にAIを運用することを求めているが、そのために参照すべきAI規格として「AIリスク管理フレームワーク (NIST AI Risk Management Framework)」や「AI権利章典(Blueprint for an AI Bill of Rights)」を挙げている。
前者は、アメリカ国立標準技術研究所が開発した標準規格で、AIのリスクを管理する手法が示されている(下のグラフィックス)。後者は、ホワイトハウスが制定した規範で、AIから国民の権利を守るためのプロセスが示されている。
各省庁は、これらの安全規格を参考に、AI運用のガイドラインを制定する。
連邦政府が手本を示す
このメモランダムは先に発行された大統領令に従うもので、AIを倫理的に運用するために、各省庁に包括的なアクションを求めている。
米国において連邦政府がAIの最大の利用者で、その運用は医療、教育、通商、法務、治安、軍事など多岐にわたる。
これらの組織がAI運用のベストプラクティスを示すことで、アメリカがAIの倫理的な運用におけるイノベーションを推進する姿勢を示している。
