AI開発の要求に応えるために誕生！NVIDIA DGX A100
NVIDIA DGX™ A100 は、NVIDIA A100 Tensor Core GPU が8基搭載されています。
NVIDIA DGX A100 に搭載されている「NVIDIA A100 Tensor Core GPU」のGPUメモリ容量が40GB（HBM）から80GB（HBM2e）に倍増しました。
A100 80GB GPUは、A100 40GB GPU を30％上回る毎秒 2テラバイト (TB/秒) 超えの世界最速メモリ帯域幅と、1.25倍から3倍の性能向上を実現しています。
NVIDIA DGX A100 は、6Uのフォームファクターで、あらゆる AI ワークフローに対応するユニバーサル システムであり、前例のない計算処理密度、パフォーマンス、柔軟性を提供する5 ペタフロップス のAI パフォーマンスを発揮します。
また、マルチインスタンス GPU (MIG)機能も大きな特徴です。
NVIDIA DGX A100
NVIDIA社は、NVIDIA A100 Tensor Core GPUを搭載した第3世代のAIプラットフォーム、DGXシリーズとして「NVIDIA DGX A100」を発表しました。
8基のNVIDIA A100 GPUを搭載したNVIDIA DGX A100は、NVIDIA NVLinkで1つに接続されており、AIとデータ解析の新たな水準を実現し、6U のフォームファクタに5ペタフロップスのAI性能を提供します。
このシステムは、AI、データ解析、HPC（ハイ・パフォーマンス・コンピューティング）のワークロードを高速化するために最適化されています。
NVIDIA DGX A100は、世界で初めてNVIDIA A100 Tensor Core GPUを搭載し、AIのスケーラビリティとパフォーマンス、計算処理密度の新たな基準を確立します。
NVIDIA DGX A100には、NVIDIA Mellanox HDRインフィニバンドアダプターが搭載されており、クラスタ間のデータ転送速度を最大化します。これにより、NVIDIA DGX PODやDGX SuperPODといった大規模なAIクラスタの構築が簡便になります。
また、DGX対応のライフサイクル管理プログラムにより、システムの最新状態を維持するための予測性の高い財務モデルを利用できます。これを利用することで、ITスタッフの負担を増やすことなく、従来のITインフラと同様に簡単にNVIDIA DGX A100を導入・運用できます。
NVIDIA DGX A100は、エネルギー効率の高い設計を持ち、ワットあたりの性能を最適化しており、持続可能性の目標も達成します。これは、明日を待たずにビジネスに変革をもたらすための理想的なソリューションです。
2020年 出荷開始
NVIDIA DGX A100 特徴
超高速処理・高性能・信頼性の3つを兼ね備えています。
1. 強力なハードウェア構成
NVIDIA A100 Tensor Core GPU
NVIDIA DGX A100 は、NVIDIA A100 Tensor Core GPUを8基搭載しています。
GPUメモリ 640GB
NVIDIA DGX A100 は、NVIDIA A100 GPU [80GB] × 8基 = 640GBの大容量GPUメモリを搭載しています。
高速なNVLink™インターコネクトにより、GPU間のデータ転送がシームレスかつ高速。GPUへの帯域幅 660 GB/秒を実現しました。
NVIDIA NVSwitch™
6基のNVIDIA NVSwitchが搭載されており、双方向の帯域幅は前世代と比較して、4.8 TB/秒を実現しています。
CPU & システムメモリ
デュアル 128コア AMD Rome CPUと、2TBでデータを最速に供給するメモリを搭載しています。
前世代(DGX-1)と比較して3.2 倍のコア数となり、 AI ジョブを強化します。
ストレージ
30 TBのGEN4 NVME SSDを搭載。
ピーク時の帯域幅 50 GB/秒を実現しました。
2. 卓越したAI性能
5ペタフロップスのAI性能
ビッグデータ分析ベンチマーク | 10TBデータセットで分析 リテールクエリ30個、ETL、ML、NLP | CPU:Intel Xeon Gold 6252 2.10GHzの19倍、Hadoop | DGX-1(V100 32GBの8倍)の16倍、RAPIDS/Dask | DGX A100 320GBの12倍およびDGX A100 640GBの6倍、RAPIDS/Dask/BlazingSQL GPUの台数に標準化した速度向上率
NVIDIA DGX A100は、AIトレーニングや推論、データ解析において卓越したパフォーマンスを提供します。
ビッグデータ分析ベンチマークで、CPUより最大83倍の高速化を実現しました。
3. 高度なネットワーキング機能
ネットワーク
10基または9基の MELLANOX CONNECTX-6 HDR 200Gb/秒、ピーク時の双方向の帯域幅 500GB/秒を実現。
超高速ネットワークインターフェイスにより、クラスタ間のデータ転送を最大化します。
NVIDIA A100 Tensor Core GPU
NVIDIA DGX A100 搭載GPUについて
NVIDIA A100 Tensor コア GPU による前例のない高速化をもって、世界で最も困難な計算に AI、データ分析、HPC (ハイ パフォーマンス コンピューティング) で挑むことができます。
第 3 世代の NVIDIA Tensor コアにより性能を大幅に向上できるようになり、A100 GPU を効率的に数千までスケール アップできます。また、マルチインスタンス GPU を使用すれば、あらゆるサイズのワークフローを加速するために 7 つの小さな専用インスタンスとして割り当てることができます。
NVIDIA A100 Tensor Core GPU × 8基搭載
Ampere アーキテクチャ
- 世界最大の7nmチップ
- 548トランジスタ, HBM2
第3世代 Tensor コア
- 更なる高速化・柔軟性・簡便
- Voltaの20倍のAI性能@TF32
高速スパース演算処理機能
- AIモデルにおけるスパースを活かし最大2倍のAI性能を発揮
マルチインスタンス GPU (MIG)
異なるワークロードを1つのプラットフォームで実行
MIG を利用することで、NVIDIA DGX A100 の 8 つの A100 GPU を最大 56 個の GPU インスタンスとして構成し、それぞれが独自の高帯域幅メモリ、キャッシュ、コンピューティング コアで完全分離できます。
これにより管理者は、複数のワークフローに対してサービス品質 (QoS) が保証された GPU のサイズを適切に設定することができます。
NVIDIA DGX A100 スペック
| NVIDIA DGX A100 | |
| GPU | NVIDIA A100 Tensor Core 80 GB × 8 基 |
| GPUメモリ | Total 640 GB |
| 性能 | AI で 5 petaFLOPS INT8 で 10 petaFLOPS |
| NVIDIA NVSwitches | 6 |
| CPU | Dual AMD Rome 7742 2.25 GHz(base), 3.4 GHz(max boost) Total 128 コア |
| システムメモリ | 2 TB |
| ネットワーク | Single-Port: Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand × 8 Dual-Port: Mellanox ConnectX-6 VPI 10/25/50/100/200 Gb/s Ethernet × 2 |
| ストレージ | OS: 1.92 TB M.2 NVME drives × 2 内部ストレージ: 30 TB (3.84 TB × 8) U.2 NVME drives |
| ソフトウェア | Ubuntu Linux OS Red Hat Enterprise Linux 7,8 / CentOS 7,8 |
| 最大消費電力 | 6.5 kW max |
| 重量 | 123 kg |
| サイズ | 全高: 264.0 mm 全幅: 482.3 mm 奥行: 897.1 mm |
| 運用温度範囲 | 5 ℃ - 30 ℃ |
最適化されたソフトウェアスタック
- 必要となるすべてのシステム ソフトウェア
- GPU 対応アプリケーション
- トレーニング済みモデル
- NGC™ の各種機能
など、テスト済みで最適化された DGX ソフトウェア スタックが統合されています。
すべてのDGX システムにおいて、ソフトウェア、ツール、NVIDIA専門スタッフからなる統合的なソリューションが、すばやい利用開始、迅速なトレーニング、スムーズな運用を実現します。
組み込まれたセキュリティ
- あらゆる主要なハードウェアとソフトウェア コンポーネントを保護するための自動暗号化ドライブ
- 署名付きソフトウェア コンテナー
- 安全な管理と監視といったマルチレイヤー アプローチ
を採用しています。
最も信頼性の高いセキュリティ体制を実現します。
ソフトウェア、ツール、専門スタッフによる
万全のサポート
NVIDIA DGX を安心してお使いいただけます。
サポートポータルに加え、コールセンターを介したタイムリーな問題解決、ハウツー記事、アプリケーションノート等の提供
NVIDIAクラウド管理
（コンテナ リポジトリ、コンテナ管理、ジョブスケジューリング、システムパフォーマンス監視、アップデート）
最新のソフトウェア更新、ファームウェアのアップグレード、DGXディープラーニングソフトウェア ライフサイクルサポート
ハードウェアの問題の診断および、リモートとオンサイトでの解決、交換部品の翌日発送
NVIDIA DGX A100 価格
教育機関、NVIDIA Inceptionパートナー、一般企業・研究機関向けの価格がございます。
また、3年間のNVIDIA DGX システム エンタープライズ サポートのご購入が必要です。（サポート期間は４年、５年も選択可能です。）
詳しくはお問い合わせ下さい。
見積依頼・お問い合わせはこちら
製品に関するご質問・ご相談など、お気軽にお問い合わせください。
NVIDIA認定のエリートパートナー「GDEPソリューションズ」は、
お客様の用途に最適な製品のご提案から導入までサポートします。