[No.41] Meta(Facebook)は世界最速のスパコンを開発、AIとメタバースは高性能プロセッサが勝敗を分ける

Meta(Facebook)は、今週、スパコンを開発していることを明らかにした。
最大性能は5 Exaflopsで世界最速のマシンとなる。

Metaが独自でスパコンを開発するのは、AIとメタバースの開発で、大量の演算処理が必要になるため。

AI開発ではアルゴリズムの規模が巨大化し、その教育には高速プロセッサが必須となる。
メタバースはAIと密接に関連し、3D仮想社会を生成するには、高精度なコンピュータビジョンが求められる。

出典: Meta

スパコンの概要

Metaは、スパコンを「AI Research SuperCluster(RSC)」(上の写真)と呼び、AI研究のための高速計算機と位置付ける。

今年中旬の完成を予定しており、演算性能はExaflopsを超える。(Exaflopsとは1秒間に10の18乗(10^18)の演算を実行する性能。)

​現在、最速のマシンは442 Petaflops (0.442 Exaflops)で、ついにスパコンがExaの領域に入ることになる。

研究テーマ

スパコンは、名前が示しているように、AI研究で使われる。

Metaは、自然言語解析(Natural Language Processing)やコンピュータビジョン(Computer Vision)の開発をスパコンで実行する。

​これらAIモデルはアルゴリズムが巨大化し、その教育で大規模な演算が発生する。パラメータの数が1兆個を超え、もはや、スパコン無しにはAIを開発することができない。

自然言語解析:有害コンテンツを検知

自然言語解析はソーシャルネットワークの有害情報(Harmful Contents)を検知するために使われる。

FacebookやInstagramで、フェイクニュースやヘイトスピーチが拡散し、社会問題となっている。
今では、ワクチンに関する偽情報が拡散し(下の写真)、ワクチン忌避者が増えている要因とされる。

​これら有害情報をAIで正確に検知する技術は確立されておらず、ソーシャルネットワークの責任が厳しく問われている。

出典: Meta

Few-Shot Learning

AIが有害情報を正確に検知できない理由は、教育データが不足しているため。アルゴリズムを教育するには、大量のデータを必要とするが、有害情報に関するデータは少ない。

例えば、ワクチンに関する偽情報は、少ないだけでなく、その内容は短期間で移り変わる。
このため、Metaは少ない事例でAIを教育する「Few-Shot Learning」という技法を開発している。

このモデルで判定精度を上げるためには、アルゴリズムのサイズを大きくする必要があり、AIが巨大になる。
​大規模なモデルを教育するためにスパコンが必須のインフラとなる。

コンピュータビジョン:メタバースの開発

次世代プラットフォームであるメタバースを開発するために、スパコンが必要となる。

メタバースは3D仮想社会で、利用者はアバターを介し、オブジェクトとインタラクションする(下の写真)。

​メタバースにアクセスするためにAR・VR・MRグラスが使われ、デバイスに仮想社会が生成される。
​高品質な仮想社会を生成するためにコンピュータビジョンが重要な役割を果たし、この開発でスパコンが必須となる。

出典: Meta

システム構成

スパコンのプロセッサにはNVIDIAのAIシステム「NVIDIA DGX A100」(下の写真)が使われる。

このシステムはNVIDIAの最新プロセッサ「A100」を8台搭載した構成で(①の部分)、高速ネットワーク「InfiniBand」で通信する。

​スパコンは16,000台のA100を搭載し、最大性能は5 exaflopsとなる。
​スパコンはDGXを連結したクラスタ構成で、AI Research SuperClusterと呼ばれる。

出典: Nvidia

巨大テックがAIスパコンを開発

アルゴリズムが巨大化の道をたどり、AI開発ではスパコンが必須の計算環境となる。

Googleは大規模アルゴリズムの開発でAIクラスター「Cloud TPU」を使っている。

Microsoftは独自でAIスパコンを開発し、大規模言語モデルを開発している。

​これからは、メタバースの開発で高速プロセッサが必須となり、スパコンの用途が拡大することになる。