[No.232]カリフォルニア州はAIフロンティアモデルを規制する法令を制定、トランプ政権は規制緩和を進め政策が対立、この法令が全米のAI安全基準となるか

2025年10月17日 2025年10月20日

KaoruIimi

カリフォルニア州はAIフロンティアモデルを規制する法令「SB 53 (Transparency in Frontier AI Act)」を制定した。

9月29日に州知事Gavin Newsom(下の写真)が法案に署名し、来年1月1日から発効する。この法令は開発企業にAIフロンティアモデルの安全性に関する情報を公開することを求めるもので、米国で最初のAIモデル規制法となる。

トランプ政権はAIアクションプランで規制を緩和する政策を取るが、カリフォルニア州はこれと反対に、AIモデルに一定の制限を課す。

連邦政府レベルの規制法が無い中、カリフォルニア・モデルが他州に広がり、これが事実上のAI規制フレームワークとなるのか、今後の動きを注視する必要がある。

AI規制法「SB 53」とは

カリフォルニア州のAI規制法「SB 53 (Transparency in Frontier AI Act)」(下の写真)はAIフロンティアモデルの安全情報を公開することを求める。

コンセプトはAI開発企業にフロンティアモデルに関し「透明性(Transparency)」と「説明責任 (Accountability)」を求める構成となる。具体的には、開発企業はフロンティアモデルの安全性を検証する手法を制定し、これに従って安全試験を実行し、その結果を公開することを求めている。

政府が安全試験を実施する手法を制定するのではなく、各企業が独自に試験プロトコールを定め、これに従ってベンチマークを実施する。

緩やかな規制

SB 53はAIイノベーションと安全性のバランスを重視し、緩やかに規制することが特徴となる。

AI開発企業は大企業に限られ、スタートアップ企業などはこの対象から除外される。法令によると、対象は年収5億ドル以上のカリフォルニア企業で、Google、OpenAI、Anthropic、Metaなどに限定される。

また、フロンティアモデルとはアルゴリズム教育で巨大システムで開発されたモデルとなる。具体的には、処理能力が「10^26 FLOPs」超えるプロセッサで開発されたモデルとなる。

企業は開発環境に関する情報を公開していないが、Google Gemini 2.5、OpenAI GPT-5、Anthropic Claude 3.5、Meta Llama 4などが対象となると推定される。

公開するドキュメント

SB 53はAI開発企業に安全性とセキュリティに関するフレームワークを公開することを求めている。

このフレームワークはAIモデルの開発で安全性とセキュリティの評価プロセスを定めたもので、この情報をウェブサイトなどで公開することを求めている。

具体的には、重大なリスクに関し、開発企業はこれをどのように管理・評価し、如何にリスクを回避する措置を講じたかなど、一連のプロセスを公開することを求めている。

リスク管理フレームワーク

AI市場ではリスク評価のフレームワークが開発されているが、SB 53は開発企業にこれらを適用することを求めている。

SB 53は具体的な安全フレームワークについて言及していないが、米国では国立標準技術研究所(National Institute of Standards and Technology 、NIST)が開発した安全フレームワーク「AI Risk Management Framework」(下の写真)がその代表となる。

また、EUでは「AI Act」が制定され、米国の主要企業はこの安全フレームワークに準拠することを公表している。

インシデントレポート

SB 53は開発企業に重大なインシデントが発生した場合はそれをカリフォルニア州政府に報告することを求めている。

カリフォルニア州は「California Governor’s Office of Emergency Services(Cal OES)」という組織を運用しており、この部門が緊急事態や災害などのイベントに対処するハブとなる。SB 53は開発企業に対し、AIで重大な問題が発生した場合は、Cal OESにこれを報告することを求めている。

その後に、Cal OESは匿名でこのインシデントを公開するプロセスとなる。