錦です。
VideoCardzによるとNVIDIAは、研究機関向けのGPGPU「NVIDIA A100」のPCIeコネクタ製品に新たに80GB メモリモデルをリストしたことがわかりました。
NVIDIA Multi-Instance GPU User Guide :: NVIDIA Tesla Documentation
注目すべきは上から4段目で、「A100-PCIE」とあるようにPCI Expressコネクタの接続で80GBのメモリになっています。なお、現状登場しているモデルは40GBと80GBのSXM4コネクタと40GBのPCIeコネクタモデルとなっています。
PCIeモデルは40GBメモリモデルのみとなっていますので、80GBモデルがPCIeにも追加されて一部の仕様を犠牲にしながらも多様性を広げることが出来ます。
メモリサイズは40GBあるいは80GBとなっており、おそらくHBM2eメモリになっていると見られます。一応、メモリ帯域はSMX4コネクタの80GBモデル同様に2039GB/sと2TB/s超えの帯域で登場する見込み。
NVIDIA A100に採用される「GA100」GPUは、108基のSMと6912基のCUDAコア、432基のTensorコアが搭載されています。Ampere製品の中で最上位モデルとなっています。
80GB・PCIeの「NVIDIA A100」は来週登場予定とのことです。価格は20,000米ドル（約200万円）を超えて来ると予想されています。
via Wccftech
