В этом году поставки ИИ-ускорителей NVIDIA бьют все рекорды, что замечательно видно по квартальному отчёту. При этом энергопотребление одного ускорителя H100 (наиболее популярная модель) немаленькое – до 700 ватт.
Если посмотреть на ситуацию в разрезе энергопотребления, по данным Schneider Electric в октябре общее энергопотребление центров обработки данных, занимающихся ИИ-вычислениями, примерно как у Кипра.
Интересными цифрами располагает Microsoft. По их данным в этом году NVIDIA отгрузила около 1,5 млн ускорителей H100, и ещё 2 млн будут готовы к концу следующего года. В общем энергопотребление одних только H100 сопоставимо с энергозатратами Литвы, Грузии и Гватемалы. В цифрах это около 13 тераватт*ч в год (13 миллиардов киловатт).
Что ещё хуже – аппетиты не убывают, а растут. Поговаривают, что в следующем году NVIDIA выпустит ускоритель B100, который будет ещё прожорливее. Кроме того, Gigabyte прогнозирует, что скоро и для серверных процессоров 600 Вт станут нормой.
Источник:
Tom’s Hardware