[No.158]セキュリティ ＝ 人工知能：サイバーセキュリティ国際会議「RSA 2024」はAIが中心テーマ、究極の諸刃の剣をどう安全に活用するか
サイバーセキュリティの国際会議「RSA 2024」がサンフランシスコで開催された(下の写真)。セキュリティ会議であるがその中心テーマはAIで、AIに関連する技術や政策が議論された。また、AIが高度に進化し、そのプラス面とマイナス面が顕著となり、この諸刃の剣をいかに安全に活用するかに話題が集中した。
[No.157]中国は生成AIを使ったサイバー攻撃を開始、Microsoftは東アジアのセキュリティリスクを分析、日本や米国に対する情報操作の脅威が増すと警告
MicrosoftはAIを使ったサイバー攻撃に関する分析レポート「Microsoft Threat Intelligence」を公開した。
これは東アジアにおける脅威を分析したもので、中国は生成AIなど高度な技術を導入し、攻撃手法が進化していると警告。福島原子力発電所の処理水の放出に関し、生成AIで作成した偽画像が使われ、危機感を煽るキャンペーンが展開された。
[No.156]バイデン政権の大統領令の安全基準に準拠した最初の生成AI「Aurora-M」を開発、政府の規定に従い「Red-Teaming」の手法で危険性を除去
バイデン政権は大統領令で開発企業に製品出荷前に生成AIの安全を確認することを求めた。
研究者グループは、この規定に従ってモデルを試験し、危険性を排除した生成AI「Aurora-M」を開発した。大統領令が適用されるのは次世代の生成AIであるが、研究グループはこれに先行し、Red-Teamingの手法で危険性を検知し、極めて安全なモデルを開発した。
[No.155]Metaは生成AI最新モデル「Llama 3」を公開、オープンソースがクローズドソースの性能を追い越す！！企業や研究機関は高速モデルを自由に利用でき選択肢が広がる
Metaは生成AI最新モデル「Llama 3」をオープンソースとして公開した。
最上位モデルはGPT-4レベルの性能で、オープンソースが業界トップに到達した。Llama 3はAWSなど主要なクラウドで公開され、この環境でモデルを利用できる。
また、MetaはLlama 3をベースとするAIアシスタント「Meta AI」の運用を開始した。
[No.154]アメリカ政府と欧州連合はハイテク技術に関する共同声明を発表、AIや量子コンピュータや６Gの開発で世界をリードすることを宣言
アメリカ政府と欧州連合は4月5日、通商とテクノロジーに関し共同声明を発表した。
両者はAIや量子コンピュータや６Gなど先端技術の開発を促進し、世界をリードすることを宣言した。AIに関しては安全なモデルを開発するために、リスクベースのアプローチを取ることを再確認した。
更に、両者のAIセーフティ部門間に対話のチャネルを設け、情報交換などを促進することを決定した。
[No.153]アメリカ政府はイギリス政府と生成AIの安全技術を共同で開発、両国で次世代フロンティアモデルを検査する標準手法を確立する
アメリカ政府はイギリス政府と生成AIの安全性に関する共同研究を実施することで合意した。
合意内容は生成AIの安全性を検査する技法の確定などで、安全規格の標準化を両国が共同で推進する体制となる。アメリカ政府はAIコンソーシアムを設立し、民間企業200社が加盟し、政府と共同でAIモデルの安全技術の確立を進めている。
[No.152]Nvidiaはヒューマノイドロボットの開発拠点となる！！生成AIを組み込み汎用的に稼働する人型ロボットの開発基盤を提供
Nvidiaは3月18日、開発者会議「GTC 2024」でヒューマノイドロボットの開発プロジェクト「GR00T」を公開した。
ヒューマノイドロボットに生成AIを統合し、人間のようなインテリジェンスを持ち、汎用的に稼働するモデルを創り出す。ヒューマノイドロボットのファウンデーションモデルとなり、ロボット開発におけるコア技術を提供する。
[No.151]Google DeepMindは言葉の指示に従ってタスクを実行するAIエージェント「SIMA」を開発、３D仮想環境で人間レベルの知能を獲得することが目標、AGIへの重要なステップとなる
Google DeepMindは3月13日、３D仮想環境において言葉の指示でタスクを実行するAIエージェント「SIMA」を公開した。
SIMAはビデオゲームのキャラクターであるが、人間が命令したことを実行するAIエージェントとして開発された。例えば、「木を切り倒せ」と指示すると、SIMAは３Dゲーム環境でこれを実行する。
[No.150]InflectionはAIアシスタント「Pi」の最新版をリリース、Piは専属コーチのように健康で幸福な生活に繋がるアドバイスをする、Piと対話すると心が安らぎ満足感が向上
Inflectionは3月7 日、大規模言語モデルの最新版「Inflection-2.5」をリリースした。
製品は言語モデルをベースとするAIアシスタント「Pi」で、Inflection-2.5を基盤とする最新モデルを公開した。Piは人間のようなアシスタントで、利用者の特徴を理解し、相手に沿った会話をする。
[No.149]Anthropicは最新モデル「Claude 3」をリリース、主要ベンチマークでGPT-4を上回る、推論機能が大幅に強化され知能が向上
Anthropicは3月4日、大規模言語モデルの最新版「Claude 3」を投入した。Claude 3は主要ベンチマークテスト全てでOpenAIのGPT-4を上回り、業界で最も高度なモデルとなった。特に、推論機能や数学の問題を解く能力が強化され、インテリジェンスが大きく向上した。