[No.179]カリフォルニア州のフロンティアモデル規制法は不成立となる、その一方で州知事は１８の規制法に署名しAI規制が本格的に始まる
gdepカリフォルニア州議会は大規模AI「フロンティアモデル」を規制する法案を可決したが、州知事のGavin Newsomは署名を拒否し、この法案は成立しなかった。
この法案は企業にフロンティアモデルを出荷する前に安全試験を義務付けるもので、連邦政府に先駆けて規制法を制定できるか注目されていた。一方、州知事は１８のAI規制法に署名し、カリフォルニア州は危険なAIから市民を守る政策を明らかにした。
このAI規制政策は全米だけでなく日本など海外へのインパクトが大きく、“カリフォルニア効果”を注視していく必要がある。
フロンティアモデル規制法は成立せず
カリフォルニア州議会はAI規制法案「SB 1047: Safe and Secure Innovation for Frontier Artificial Intelligence Models Act.」を可決したが、州知事であるGavin Newsom(下の写真)は拒否権を行使し、この法令は成立しなかった。
この法令は開発企業に大規模AIフロンティアモデルの安全試験を義務付けるもので、開発企業やベンチャーキャピタルなどが反対していた。
一方で、大学研究者や人権団体などは署名を求め、賛成派と反対派が厳しく対峙していた。
AI規制法案の概要
この法案は高度な機能を持つフロンティアモデルを安全に開発運用することを目標としている。
対象となるモデルは開発費用が1億ドルを超える大型システムとなる。法案はフロンティアモデルが社会に重大な危害を及ぼすことを事前に抑止することを目的としている。
重大な危害は「Critical Harm」として、生物兵器の生成や5億ドルを超える大規模な被害と定義している。
AI規制法案の骨子
この法案は三つの骨子から構成され、開発企業にモデルの安全試験の実施や、緊急時の安全対策を義務付けている。
- 安全試験：製品を出荷する前に安全試験を実施し、モデルが社会に重大な危害を及ぼさないことを確認
- 開発企業を訴訟する権利：司法長官はモデルが重大な危害を与えた場合は開発企業を訴訟できる
- 稼働停止スイッチ：モデルが危険な挙動をするのを防ぐため、システムの稼働を停止させるスイッチを実装
AI規制に賛成する意見
カリフォルニア州のAI規制法に関しては賛成と反対の意見が厳しく対峙し議論が続いている。
AI規制に賛同するのはアカデミアを中心とする研究者グループで、高度なAIモデルの開発は慎重に進めるべきとのポジションを取る。
その代表がトロント大学のGeoffrey Hinton教授で、「40年前にAIアルゴリズムの教育を実施した時に、ChatGPTが生まれるとは想像もできなかった」と述べ、AIの技術進化は極めて速く、大規模モデルが甚大な被害をもたらす可能性は大きいとしている。
AI規制に反対する意見
一方で、AI規制に反対する意見はIT業界から政界まで幅広く、こちらが世論の中心を占めている。
規制法に反対する理由は、フロンティアモデルを過度に規制することでAI開発のイノベーションが阻害されるため。また、規制法は生成AIの基礎技術を制限するのではなく、それを応用するアプリケーションごとの規制が必要であるとの声が高い。
具体的には、生成AIを使った監視システムなど、適用分野ごとに規制すべきとの意見が多い。
次のステップ
州知事は声明を出し署名を拒否した理由を解説した(下の写真)。
それによると、AIの危険性はモデルの規模ではなくその使い方で決めるべきで、フロンティアモデルだけの規制では安全とは言えないと述べている。
更に、AIモデルの危険性を科学的に評価し、法令でどのようなガードレールを設けるかを議論する必要であるとして、評価委員会の設立を明らかにした。スタンフォード大学教授Fei-Fei Liなどが委員となりAI規制のガイドラインを制定する。
成立したAI規制法
フロンティアモデル規制法は成立しなかったが、州知事は１８のAI規制法に署名し、カリフォルニア州でAI規制が本格的に始まった。
これらの法令はディープフェイクを禁止するなど、AIの危険性から住民を守ることを指針とする。成立したAI規制法の主なものは：
- 児童ポルノの禁止：従来の法令を拡張し、生成AIで児童ポルノのイメージを生成することを禁止
- ディープフェイクの禁止：亡くなった人物の音声やイメージでのデジタル複製を制作し配布することを禁止。往年の映画俳優のディープフェイクの生成を禁止
- 教育データの公開：開発企業にAIモデルの教育で使用したデータを公開することを義務付ける
- ディープフェイクの制限：選挙キャンペーンで政治家に関するディープフェイクをソーシャルメディアに掲載することを制限
- ラベリング：政治キャンペーンにおいてAIで生成した音声やイメージやビデオなどにはその旨を添付
ブリュッセル効果 vs カリフォルニア効果
EUはAIを規制する法令「AI Act」を成立させ運用を開始した。
この法令はEU域内だけでなく、他国に波及する効果があるとして、EU本部所在地の名称を冠して「ブリュッセル効果(Brussel Effects)」と呼ばれる。同様に、カリフォルニア州のAI規制法はこれが雛形となり、全米の州や他の国々でこれをモデルに独自の法令を制定する流れに繋がる。
これは「カリフォルニア効果(California Effects)」と呼ばれ、自動車の排ガス規制が示すように、日本を含む世界のメーカーの開発戦略に大きな影響を及ぼした。
連邦政府に代わりカリフォルニア州がAI政策を主導しており、米国だけでなく日本など第三国にどのような影響を及ぼすのか注視していく必要がある。
