[No.158]セキュリティ ＝ 人工知能：サイバーセキュリティ国際会議「RSA 2024」はAIが中心テーマ、究極の諸刃の剣をどう安全に活用するか

サイバーセキュリティの国際会議「RSA 2024」がサンフランシスコで開催された(下の写真)。

セキュリティ会議であるがその中心テーマはAIで、AIに関連する技術や政策が議論された。また、AIが高度に進化し、そのプラス面とマイナス面が顕著となり、この諸刃の剣をいかに安全に活用するかに話題が集中した。

更に、米国政府はAIの安全活用と危険低減を全力で推進しており、国務省長官などがバイデン政権のデジタル外交政策などを明らかにした。

米国政府高官の基調講演

基調講演では国務長官Antony Blinkenが米国のデジタル外交政策を解説した(下の写真)。

米国は同盟国と連携し、AIや量子コンピュータで世界をリードする必要性を強調。国土安全保障省長官Alejandro Mayorkasは対談形式で、米国基幹インフラをサイバー攻撃から防御する政策を明らかにした。

AIは「Dual-Use Technology(民生と軍事のデュアル技術)」であり、サイバー攻撃をAIで防御するとともに、AIが内包する危険性を低減する政策を明らかにした。

多くの米国政府高官が国際会議に出席し、AIとセキュリティに関する政策を講演し、AI時代における米国政府のポジションを明らかにした。

AIブームに強い警鐘を鳴らす

その中で、注目すべきセッションは「Artificial Intelligence: The Ultimate Double-Edged Sword(AIは究極の諸刃の剣)」で(下の写真)、パネルディスカッション形式で、AIの活用法と制御法が議論された。

高度なAIはプラス面が大きいが、同時に、社会に重大な危険性をもたらす。パネルは、AIに関する基本的なポジションを議論し、危険なAIをどう制御するか、同時に、高度なAIの恩恵を社会がどう享受すべきかについて意見が交わされた。

パネリストは、技術開発は生成AIに過度に偏り、また、AIモデルの危険性が正しく理解されていないと、強い警告メッセージを発信した。

パネリストの概要

パネリストは、米国司法省副長官Risa Monaco(下の写真左側)とスタンフォード大学教授Fei-Fei Li(右側)で構成され、バイデン政権のAI諮問委員Miriam Vogelがモデレータを務めた。

Monacoは司法省でAIにより国民が不利益を被らないための政策を展開している。MonacoはAIが社会に脅威をもたらすとのポジションを取り、「Dr. Doom(破滅主義者)」と呼ばれている。

一方、Liはスタンフォード大学でAI研究所「Human-Centric AI」の所長を務め、AIが人類の幸福に貢献する研究をミッションとしている。

Monacoの主張：AIの危険性を低減すべき

Lisa Monacoは司法省でAIを導入してプロセスを効率化すると共に、AIが国民の権利を侵害しないよう政策を進めている。

司法省は配下の連邦捜査局(FBI)を中心に、犯罪組織やテロリストや敵対国による脅威をAIで検知するなど、ガードレール技術を展開している。

また、今年は大統領選挙の年で、AIによる情報操作や偽情報の生成を重点的に警戒していることを明らかにした。

Liの主張１：AIの危険性が過度に強調されている

LiはAIに関する考え方に強い警鐘を鳴らした。

LiはAIが人類の福利に寄与することを目的として研究を進めており、高度なAIで医療技術を進展させ、科学技術の進化に寄与することを期待している。同時に、いまのAI研究者はAIの危険性を過度に強調し、AI像が歪んでいると警告した。

特に、AIが人類を破滅に導くという「Doom」という考え方に強い反対意見を開示した。

破滅論の議論に時間を割く前に、目の前にあるAIの危険性を低減することが、研究者に課せられた喫緊の課題であると主張。

Liの主張２：AI市場は言語モデル開発に偏りすぎている

Liはまた、AI研究が過度に言語モデルに偏向しており、AI研究開発が歪んでいると警告した。

ChatGPTの衝撃で、リソースが大規模言語モデルに集中しているが、このアプローチではAIがインテリジェントになれないと主張。実際に、Liはスタートアップ企業を創設し、ここでAIのインテリジェンスを開発している。

具体的には、「World Model」というコンセプトのもと、AIが実社会のオブジェクトとインタラクションすることで、社会の常識を身につけ、人間のような知識を習得する。

この基礎研究がロボティックスに応用でき、また、最終的には人間レベルのインテリジェンス「AGI」に繋がる。

AIのイノベーションが求められる

米国政府はバイデン政権のAI規制政策基本指針である大統領令に沿って、AIのイノベーションを後押しし、AIの危険性を低減する活動を推進し、大きな成果を示している。

一方、AIの成果は一部の巨大テックが独占し、利益や権益が偏り、健全な競争が阻害されていることが重大な問題となっている。このため、Liはアカデミアやスタートアップ企業が活躍できる環境の整備が必要であるとし、連邦政府にAI開発環境の整備やオープンソースの普及を求めた。

AI市場は寡占状態で技術進化が特定の方向に偏り、再びAIで技術革新が求められる。