[No.172]xAIの最新モデル「Grok-2」はディープフェイクを生成、Xは偽情報拡散のSNSとなる、Muskは”言論の自由”を標榜するが政府は安全対策を求める

Elon Muskが創業したAI企業xAIは、今週、生成AIモデルの最新版「Grok-2」をリリースした。

Grok-2はOpenAI GPT-4oに匹敵する性能を示し、AIの先頭集団に加わった。しかし、Grok-2はイメージ生成機能で著名人のディープフェイクを生成することを許容しており、偽情報が数多くXに掲載され(下の写真)、アメリカ社会が混乱している。

Muskは言論の自由を守るAIを開発するという構想の元、Grok-2のガードレールを低くしている。

一方、政府は大統領選挙を目前に控え、Xに偽情報の拡散を抑止するよう求めている。

Grok-2をリリース

xAIはElon Muskにより設立されたAI開発企業で、「宇宙の自然法則を理解」することをミッションとし、自然科学の発展に寄与するためにAIを開発している。

xAIは8月13日、生成AIの最新モデル「Grok-2」と、その小型モデル「Grok-2 mini」をリリースした。Grok-2は性能が大きく向上し、言語機能でGPT-4oに匹敵する。

Grok-2とGrok-2 miniはXのプラットフォームで公開され(下の写真)、有償のサブスクライバーがこれを使うことができる。

危険なイメージを生成

Grok-2は入力されたテキストに従ってイメージを生成する機能を備えている。

Grok-2のガードレールは低く設定されており、プロンプトに対する制約は緩く、非倫理的なイメージを生成する。特に、著名人やアニメキャラクターをベースとするディープフェイクを生成し、これらがそのままXのプラットフォームで拡散される。

アメリカは大統領選挙の直前で、トランプ前大統領、ハリス副大統領、バイデン大統領など、政治にかかわる偽イメージが数多く生成され、これらがXに掲載されている(下の写真)。

映画のキャラクターや商標

Grok-2は映画のキャラクターや商標などをテーマとするイメージを描き出す。

特に、子供に人気のあるキャラクターがタバコを吸い、ビールを飲むなど、社会通念に反するイメージを生成する。ウォルトディズニーのアニメーション映画「アナと雪の女王(Frozen)」の主人公が、コカインを吸入するシーンなどショッキングなイメージが目立つ(下の写真)。

Grok-2は著作権物を教育データとして使っていることが自明で、倫理問題の他に著作権侵害の問題も発生する。

イメージ生成技術

xAIはイメージ生成技術は、Black Forest Labsというスタートアップ企業が開発した「FLUX.1」というモデルを利用していることを明らかにした。

Black Forestはドイツに拠点を置く企業で、テキストをイメージに変換するモデルを開発している。FLUX.1が生成するイメージは高品質で印象的な画像を描き出すことに特徴がある(下の写真)。

Black Forestはイメージ生成技術に拡散モデル「Diffusion Model」を使っているが、そのコアの部分にトランスフォーマ「Diffusion Transformer」を導入し、スケーラビリティが高く、高解像度のイメージを生成する。

Elon Muskの構想

主要生成AIは著名人や映画のキャラクターを描き出すことを抑制しているが、Grok-2にはこの制約はなく、自由にイメージを描くことができる。

Muskは「言論の自由」を理念とするAIを開発することをビジョンに掲げ、自由に稼働できるAIモデルを開発している。同時に、MuskはGoogleなど主要企業のAIはリベラルに偏った「Woke AI」であると批判している。

Googleの最新モデル「Gemini」は、”偽のイメージ”を生成し危険であると批判する。実際に、Geminiは過度に平等を重視し、史実とは異なり、黒人や女性の大司教を描き出し(下の写真)、社会問題を引き起こした。

このためGeminiは人物を生成する機能を停止しており、著名人だけでなく全ての人を描くことができない。

Xは偽情報を拡散するプラットフォーム

Google Geminiは過度に差別解消を追求し、xAI Grok-2は言論の自由を極端な形で探求する。

アメリカ市場でAIモデルの倫理観がベンチマークされており、各社は試行錯誤を重ね、あるべき姿を目指している。MuskはGrok-2を「Anti-Woke Chatbot(リベラルではないチャットボット)」と位置付け、モデルが生成したイメージをXに掲載することを許容し、Xが偽情報拡散のプラットフォームとなっている。

米国州政府や欧州連合はMuskに偽情報を拡散することを抑止するよう求めているが、大きな進展は無い。(下の写真、ハリス副大統領の偽イメージ)