[No.132]バイデン政権は連邦省庁にAIの倫理的な運用を指示、アルゴリズムのリスクを検証し安全に運用するための基準を制定、危険なAIは運用を停止
バイデン政権は連邦省庁に対し、導入しているAIのリスクを査定し、安全に運用するためのガイドラインを制定することを求めた。
これはメモランダムとして発行され、アメリカが責任あるAI開発と運用で世界のリーダーとなることを意図している。連邦省庁は、運用しているAIシステムの棚卸を行い、アルゴリズムのリスクを検証する。
[No.131]バイデン大統領はAI規制の方向に政策を大転換、企業はAIの安全試験と情報開示が義務付けられた、大規模モデルの危険性を管理しつつ技術革新を促進
バイデン大統領は、10月30日、アメリカが責任あるAI開発と技術革新を推進するため、政策を大きく転換した大統領令を発行した。
大統領は記者会見で、AIが悪用されないため、セーフガードを設け、生物兵器の開発やサイバー攻撃を防ぐことに重点を置いていると、大統領令の趣旨を説明した(下の写真)。
[No.130]OpenAIは「GPT-4V」を公開、生成AIが視覚を持ち図形の意味を理解、媒体がテキストからイメージに広がりスキルが飛躍的に向上、同時に危険性も拡大
新モデルは「GPT-4V」と呼ばれ、テキストを理解するGPT-4にビジョンを搭載したモデルとなる。実際に使ってみると、GPT-4Vはイメージを理解する能力が極めて高く、人間のように多彩なタスクを実行できる。
同時に、GPT-4Vはイメージに関する偏見や危険性を持っていることが明らかになり、新たに安全対策が求められる。
[No.129]サンフランシスコにAI新興企業が集結、「セレブラルバレー」で生成AIのブレークスルーが起こる
サンフランシスコがAI開発のハブとなっている。
AIのスタートアップ企業がここに集結し、生成AIを中心に、次世代モデルを開発している。OpenAIはこの地で創業し、これを取り巻くように、AIスタートアップ企業が相次いでオフィスを開設している。
ベンチャーキャピタルもここに拠点を移動し、AIのエコシステムが形成されている。
[No.128]バイデン政権はサイバーセキュリティの開発コンペティションを起動、生成AIでソフトウェアの脆弱性を検知しこれを自動で修正する
バイデン政権はAIでサイバー攻撃を防御する技術を競う大会「AI Cyber Challenge」を起動した。
これは、社会インフラを担うソフトウェアを敵対国の攻撃から守ることを目的とし、コンペティションの形式でセキュリティ技術を開発する。生成AIでソフトウェアの脆弱性を探し出し、これを自動で修正する。
[No.127]Metaは言語モデル「Llama 2」を改良し高度なチャットボットを投入、「Meta AI」はChatGPT対抗モデルで「セレブAI」は人格を持つアバター
Metaは今週、開発者会議「Connect 2023」を開催し、AIの最新技術を公開した。
Metaは大規模言語モデル「Llama 2」を開発し、オープンソースとして公開している。Metaはこのモデルを改良し、高度なチャットボットを開発した。「Meta AI」は汎用チャットボットで、ビジネスを中心に使われる。
[No.126]使ってみると超便利！！Googleは「Bard」をGmailなどと連携、生成AIが秘書となり仕事の効率が大幅にアップ
Googleは生成AIの機能を拡張した「Bard Extensions」を公開した。これは、BardをGmailやDriveなど、他のアプリと連携するもので、生成AIがこれらのデータを元に回答を生成する。Bardがメールの内容を読み、必要なアクションを表示する。Driveに格納しているドキュメントを分析し、要点を纏める。
[No.125]生成AIのセキュリティに重大な問題あり！！特殊な文字列を入力するとChatGPTは爆弾の作り方を出力、サイバー攻撃をどう防ぐかが問われる
大学の研究グループは生成AIのセキュリティ機能の解明を進め、アルゴリズムが内包する危険性を指摘した。プロンプトに特殊な文字列を付加すると、生成AIは爆弾の作り方など危険情報を出力する。生成AIは有害な情報を出力しないようガードレールが設置されているが、簡単な操作でこれが突破された。
[No.124]ロジックがブラックボックスの生成AIをどう制御するか、OpenAIはChatGPTを安全に運用する機能を投入
OpenAIは企業向けのChatGPTを投入した。「ChatGPT Enterprise」と呼ばれ、セキュリティを強化したモデルで、AIアプリケーションを安全に運用できる。これに先立ち、ChatGPTを最適化する機能「Fine-Tuning」を公開。企業は業務専用のモデルを開発し、アルゴリズムの挙動を制御する。
[No.123]GoogleはAIクラウド「Vertex AI」の機能を拡張、企業向け生成AIの開発競争がヒートアップ
Googleは今週、開発者会議「Cloud Next 2023」を開催し、クラウドの最新技術を公開した。
イベントの中心はAIで、Googleは企業向け生成AIをクラウドで提供する仕組みを拡充した。生成AIが急速に普及しているが、機能や安全性などに課題があり、企業がこれをビジネスで使うには敷居が高い。