Новинка поддерживает до 192 ГБ унифицированной памяти LPDDR5X-8533, из которых до 160 ГБ могут быть выделены под видеопамять. Это открывает возможности, ранее доступные только на топовых рабочих станциях за десятки тысяч долларов.
Возможность выделить под графику 160 ГБ памяти позволяет локально запускать модели с 300 миллиардами параметров в 4-битном формате. Например, Meta Llama-3 405B или аналогичные закрытые модели становятся доступны для работы на обычном ПК без необходимости аренды облачных серверов.
AMD подсчитала, что работа с моделями локально вместо облачных серверов позволяет экономить до $750 в месяц на оплате токенов, обеспечивая при этом полную конфиденциальность данных.
Топовый чип Ryzen AI Max+ PRO 495 имеет 16 ядер Zen 5 (32 потока) с частотой до 5.2 ГГц, 64 МБ кэша L3, NPU мощностью 55 TOPS и встроенную графику Radeon 8065S с 40 вычислительными блоками RDNA 3.5.
AMD делает ставку на работу множества ИИ-агентов одновременно. Это небольшие специализированные нейросети, которые работают в фоне и выполняют рутинные задачи: проверка почты с анализом вложений, написание ответов, сортировка документов
Подписывайтесь на наш телеграмм канал и читайте новости в удобном формате — https://t.me/occlub_ru
