[No.125]生成AIのセキュリティに重大な問題あり！！特殊な文字列を入力するとChatGPTは爆弾の作り方を出力、サイバー攻撃をどう防ぐかが問われる
大学の研究グループは生成AIのセキュリティ機能の解明を進め、アルゴリズムが内包する危険性を指摘した。プロンプトに特殊な文字列を付加すると、生成AIは爆弾の作り方など危険情報を出力する。生成AIは有害な情報を出力しないようガードレールが設置されているが、簡単な操作でこれが突破された。
[No.124]ロジックがブラックボックスの生成AIをどう制御するか、OpenAIはChatGPTを安全に運用する機能を投入
OpenAIは企業向けのChatGPTを投入した。「ChatGPT Enterprise」と呼ばれ、セキュリティを強化したモデルで、AIアプリケーションを安全に運用できる。これに先立ち、ChatGPTを最適化する機能「Fine-Tuning」を公開。企業は業務専用のモデルを開発し、アルゴリズムの挙動を制御する。
[No.123]GoogleはAIクラウド「Vertex AI」の機能を拡張、企業向け生成AIの開発競争がヒートアップ
Googleは今週、開発者会議「Cloud Next 2023」を開催し、クラウドの最新技術を公開した。
イベントの中心はAIで、Googleは企業向け生成AIをクラウドで提供する仕組みを拡充した。生成AIが急速に普及しているが、機能や安全性などに課題があり、企業がこれをビジネスで使うには敷居が高い。
[No.122]ChatGPTの政治理念はリベラルにバイアス、生成AIが民主党寄りの意見を発信し米国で社会分断が進む
OpenAIが開発したChatGPTとGPT-4は政治理念がリベラルに偏っていることが相次いで指摘された。
ChatGPTに政治的な質問をすると、モデルは左派の政治思想に沿った回答を出力する。右派の考え方とは反するもので、保守派はOpenAIに政治的なバイアスを是正するよう求めている。
[No.121]ニューヨーク・タイムズはOpenAIを著作権侵害で訴訟するのか緊迫感が高まる、ChatGPTは学習した記事を出力し報道事業が脅かされる
ニューヨーク・タイムズはOpenAIを著作権侵害で提訴するのか、緊迫した状況となっている。OpenAIは、ChatGPTなど生成AIの教育で、ニューヨーク・タイムズの記事を許諾を得ないで使っている。両社でライセンスに関する協議が行われたが合意に至らず、ニューヨーク・タイムズは訴訟に踏み切る公算が大となった。
[No.120]OpenAIはウェブページからデータ取集を停止する機能を公開、クローラー「GPTBot」をオフにすることで個人や企業の著作物を守る
OpenAIはウェブサイトのデータを読み込まない機能を公開した。OpenAIは「GPTBot」というクローラーで世界のデータを収集している。クローラーがウェブサイトにアクセスし、掲載されているコンテンツを読み込む。収集したデータは、ChatGPTなどの生成AIの教育で使われる。
[No.119]Googleは生成AIをロボットに適用、ロボットは人間の言葉を理解しカメラの映像で命令を実行、知能が向上し学習していないタスクを実行できる技能を獲得
Google DeepMindは生成AIでロボットの頭脳「RT-2」を開発した。RT-2は人間の言葉を理解し、カメラの映像を読み込み、ロボットのアクションを計算するこの手法は、ロボットは教育されていない命令を実行できることを意味し、汎用ロボットの開発に向けて大きな技術進化となる。
[No.118]Metaは生成AI「Llama 2」をオープンソースとして公開、企業は無償で利用でき選択肢が拡大、ChatGPTに匹敵する性能でOpenAIの地位が揺らぐ
Metaは今週、生成AI「Llama 2」をオープンソースとして公開した。Metaはこのモデルをビジネスで利用することを許諾しており、企業の選択肢が拡大する。Llama 2は性能が大きく進化し、OpenAIのChatGPTと対等となった。OpenAIが市場をリードしてきたが、Llama 2の登場で、首位争いが激化する。
[No.117]バイデン政権はAIの安全性に関するガイドラインを制定、OpenAIの「GPT-4」やGoogleの「PaLM 2」はモデルの安全検査を求められる
今週、バイデン大統領はGoogleやOpenAIなどAI企業7社と会見し、AIの安全性に関するガイドラインを発表した。これは「Voluntary Commitments」と呼ばれ、法的義務はない自主規制であるが、企業７社がこれに同意し、AIモデルの安全検査を実施する。
[No.116]OpenAIは性能の壁に突き当たる、GPT-4の規模を拡大しても性能が伸びない、新たなアーキテクチャを開発中、GPT-4は小型モデルを組み合わせた複合型AIか
大規模言語モデル「GPT-4」は、サイズを拡大しても、それに応じて性能が伸びない、という問題に直面している。ニューラルネットワークのパラメータの数を増やしても、モデルの性能が向上しない、ということを意味する。OpenAIのCEOであるSam Altmanは、この問題を認め、「AIの規模拡大競争の時代は終わった」と述べている。