Наконец NVIDIA представила систему DGX A100, базирующуюся на восьми ускорителях NVIDIA A100. Наряду с этим стали известны полные технические спецификации ускорителей, они весьма впечатляющи, и настало время с всем этим ознакомиться.
7-нм ядро NVIDIA A100
Итак, в арсенале NVIDIA A100 6912 CUDA-ядер для работы с операциями одинарной точности (FP32) и ещё 3456 ядер для вычислений с двойной точностью (FP64). Также GPU включает 432 Tensor-ядра третьего поколения, обеспечивающих вычисления формата Tensor Float (TF32). Сама NVIDIA говорит, что новые Tensor-ядра увеличивают скорость ИИ-вычислений в 20 раз, при чём без какой-либо программной адаптации. Кроме того, тензорные ядра помогают при вычислениях FP64, ускоряя их в 2,5 раза. Уровень TDP 400 Вт.
На одной подложке с GPU распаяны шесть стеков памяти HBM2 производства Samsung. Судя по 5120-битной шине памяти и наличию 40 ГБ памяти, из шести стеков активны только пять. Итого суммарная пропускная способность подсистемы памяти достигает 1,6 ТБ/с. К слову, NVIDIA A100 поддерживают интерфейсы PCI-Express 4.0 и NVLink. Технические характеристики приведены в таблице:
На базе ускорителей NVIDIA A100 будут предложены высокопроизводительные системы от ряда партнёров. Первым подобным продуктом станет система от самой NVIDIA — DGX A100. Она включает восемь ускорителей A100, объединённых шиной NVLink, два 64-ядерные процессора AMD Epyc 7742, 1 ТБ оперативной памяти и 15 ТБ дисковой памяти, набранной NVMe-накопителями с интерфейсом PCI-E 4.0. Впечатляет 200-гигабитный доступ в Сеть. Суммарное потребление системы DGX A100 в пике достигает 6,5 кВт.
Остаётся лишь добавить, что система NVIDIA DGX A100 оценена в $200 000. К слову, предшествующая DGX-2 стоила столько же.
Подробнее на официальной странице NVIDIA DGX A100.
Источники:
Videocardz
AnandTech