AI規制
[No.185]大規模言語モデルの開発ペースが大幅にスローダウン！！OpenAIの次期モデルの性能が上がらない、開発戦略の見直しを迫られる新着!!
OpenAIは次期フラッグシップモデルを開発しているが、性能が上がらないという問題に直面した。次期モデルのコードネームは「Orion」といわれ、GPT-4の後継機種となる。当初は今年末までにリリースされるといわれてきたが、これが来年にスリップした。Orionは巨大なモデルであるが、規模を拡大してもそれに応じて性能が伸びない。
[No.184]トランプ氏圧勝・アメリカは変わった！！第二次政権でハイテク政策はどうなる、規制緩和でイノベーションが加速か、日本経済への影響は
アメリカ大統領選挙は大接戦と言われてきたがトランプ氏が圧勝した。国民の過半数が米国第一主義を支持し、この四年間で国民の総意が大きくシフトした。もはや今までの常識は通用せず、新しいパラダイムの元で事業を展開する必要がある。ハイテクに関しては、アメリカ国内で政策が大きく見直され規制緩和に向かう。日本や欧州へのインパクトも大きく、構築された関係が見直され、今後の協調のありかたを模索することになる。
[No.182]現行の生成AIモデルは欧州の規制法「AI Act」に準拠できない！！コンプライアンス・チェッカー「COMPL-AI」の評価結果
EUはAIを安全に運用するための法令「AI Act」の運用を開始し、域内で事業を展開する企業はこの規定に従うことが義務付けられた。AI Actは複雑な法体系で、これを読み下し、AIシステムを評価するには、多大なコストと時間を要す。欧州の研究団体はモデルがAI Actに準拠しているかを審査するツール「コンプライアンス・チェッカー」を開発した。
[No.180]国際連合はAIガバナンスに関する報告書を公開、OECD(AI基本指針)やG7(広島AIプロセス)など多国間協定を統括する役割を担う、地球温暖化とAIを最重要テーマと位置付ける
国際連合(United Nations)は先月、AIに関する包括的な報告書「Governing AI for Humanity」を公開した。これはAIガバナンスをグローバルに展開するための意見書で、AIのリスクを認識し、世界の人々が利益を享受できるフレームワークを提言している。報告書は地球温暖化対策をモデルに、AIのリスクを査定するためのパネルの設置を推奨する。
[No.179]カリフォルニア州のフロンティアモデル規制法は不成立となる、その一方で州知事は１８の規制法に署名しAI規制が本格的に始まる
カリフォルニア州議会は大規模AI「フロンティアモデル」を規制する法案を可決したが、州知事のGavin Newsomは署名を拒否し、この法案は成立しなかった。この法案は企業にフロンティアモデルを出荷する前に安全試験を義務付けるもので、連邦政府に先駆けて規制法を制定できるか注目されていた。
[No.144]ホワイトハウスはAI大統領令の実施状況を公表、予定通り進行していることをアピール、しかし政権が変わるとAI政策が白紙になる危険性が指摘される
バイデン政権は昨年10月、AIの安全性に関する大統領令に署名し、米国企業に責任あるAI開発を求めた。今週、ホワイトハウスは大統領令の実施状況を公表し、規定された項目が予定通り進んでいることをアピールした。しかし、今年の大統領選挙で政権が変わると、大統領令は停止される可能性があり、米国のAI政策が岐路に直面している。
[No.125]生成AIのセキュリティに重大な問題あり！！特殊な文字列を入力するとChatGPTは爆弾の作り方を出力、サイバー攻撃をどう防ぐかが問われる
大学の研究グループは生成AIのセキュリティ機能の解明を進め、アルゴリズムが内包する危険性を指摘した。プロンプトに特殊な文字列を付加すると、生成AIは爆弾の作り方など危険情報を出力する。生成AIは有害な情報を出力しないようガードレールが設置されているが、簡単な操作でこれが突破された。
[No.122]ChatGPTの政治理念はリベラルにバイアス、生成AIが民主党寄りの意見を発信し米国で社会分断が進む
OpenAIが開発したChatGPTとGPT-4は政治理念がリベラルに偏っていることが相次いで指摘された。
ChatGPTに政治的な質問をすると、モデルは左派の政治思想に沿った回答を出力する。右派の考え方とは反するもので、保守派はOpenAIに政治的なバイアスを是正するよう求めている。
[No.121]ニューヨーク・タイムズはOpenAIを著作権侵害で訴訟するのか緊迫感が高まる、ChatGPTは学習した記事を出力し報道事業が脅かされる
ニューヨーク・タイムズはOpenAIを著作権侵害で提訴するのか、緊迫した状況となっている。OpenAIは、ChatGPTなど生成AIの教育で、ニューヨーク・タイムズの記事を許諾を得ないで使っている。両社でライセンスに関する協議が行われたが合意に至らず、ニューヨーク・タイムズは訴訟に踏み切る公算が大となった。
[No.117]バイデン政権はAIの安全性に関するガイドラインを制定、OpenAIの「GPT-4」やGoogleの「PaLM 2」はモデルの安全検査を求められる
今週、バイデン大統領はGoogleやOpenAIなどAI企業7社と会見し、AIの安全性に関するガイドラインを発表した。これは「Voluntary Commitments」と呼ばれ、法的義務はない自主規制であるが、企業７社がこれに同意し、AIモデルの安全検査を実施する。