錦です。

NVIDIAはGTC 2023にて、NVIDIAのAI向けスーパーシステム「NVIDIA DGX」を簡単に利用できるようにするため「NVIDIA DGX Cloud」をOracle Cloud、Google Cloud、Microsoft Azureとの業務提携で法人向けに提供することを発表しました。

DGX Cloud

DGXはNVIDIAのハイエンドGPU「NVIDIA H100」または「NVIDIA A100」を搭載した、AIに特化したスーパーシステムです。なお、旧Teslaの流れをくんでいますので、研究用途にも利用できます。

DGX Cloudでは「NVIDIA A100 80GB」または「NVIDIA H100」を8台で構成されたノードあたり640GBものvRAMを利用可能なインスタンスを提供。インスタンス単位で提供されますが、複数のインスタンスを一つの大規模GPUとして利用することも可能です。

「NVIDIA A100」はAmpereをベースにしたGPUで、「NVIDIA H100」はその後継Hopperを搭載しています。ともにTensorコアを搭載していますが、H100のHopperは第4世代でありGPTなどに採用される「Transformer」に最適化された「Transformer Engine」を搭載しています。

DGX Cloudはまず「Oracle Cloud Infrastructure（OCI）」で利用可能になり、来四半期までにMicrosoft Azureで、そしてその後Google Cloudで利用可能になります。価格は36,999ドル/インスタンス。法人向けです。