Согласно отчёту Citrini Research от 16 июня, AMD и Apple одновременно разрабатывают решения по замене DRAM флеш-памятью в своих ИИ-продуктах. AMD приобрела стартап MEXT для оптимизации флеш-памяти до уровней, близких к DRAM.
Технология MEXT представляет собой ИИ-ориентированную систему управления памятью. Она анализирует паттерны доступа к данным и перемещает менее востребованную информацию с дорогой DRAM на значительно более дешёвую флеш-память (NAND). При этом операционная система продолжает воспринимать этот объём как высокоскоростную память.
Стоимость флеш-памяти в 55 раз меньше стоимости DRAM. Это позволяет значительно снизить затраты на память в центрах обработки данных ИИ. По данным Citrini Research, высокий спрос на память для KV-кэша при ИИ-выводах создаёт «налог на память», а HBM уже занимает 25% мощностей DRAM .
Apple, в свою очередь, использует технологию «LLM in a flash» для оптимизации своих устройств .
