На начало января у NVIDIA запланирована пресс-конференция. Казалось бы, до тех пор анонсов не ждём, все новинки будут на CES 2023. Но прямо сейчас проходит мероприятие Supercomputing 2023, в рамках которого состоялся анонс H200 – нового топового ускорителя NVIDIA.
Сейчас NVIDIA H200 лишь формально анонсирован, технические характеристики известны только обрывочные. Судя по заявленной вычислительной мощности, относительно ускорителя H100 в плане графического процессора отличий не будет.
Новая модель получила «прокачанную» подсистему памяти. Объём памяти увеличился с 80 до 141 ГБ, а вместе с тем общая пропускная способность с 3,35 до 4,8 ТБ/с. Как итог в задачах, связанных с ИИ-вычислениями, NVIDIA H200 быстрее до двух раз. К примеру, при работе с GPT-3 в 1,6 раза.
Вместе с ускорителем была представлена новая версия платформы HGX H100 – HGX H200, как нетрудно догадаться. Есть модели с 4 или 8 ускорителями. Старшая модификация предлагает до 1,1 ТБ сверхскоростной памяти HBM3e.