«Ноутбучная» память приходит в серверы: зачем дата-центрам LPDDR5X и SOCAMM2

В дата-центре важно не только разместить как можно больше вычислительной мощности, но и уложиться в ограничения по энергопотреблению и охлаждению. По мере роста AI-нагрузок это становится все сложнее. Поэтому производители начали присматриваться к LPDDR5X — памяти, которая долгое время использовалась прежде всего в смартфонах и ноутбуках. Новый формат SOCAMM2 позволяет устанавливать такую память в серверы в виде съемных модулей. 

Разберем, чем этот подход отличается от привычных RDIMM и что показали испытания на нагрузках, приближенных к реальной работе.

Почему серверной памяти нужно экономить ватты

Раньше серверную память в основном оценивали по объему и пропускной способности. Сейчас еще добавилось энергопотребление. У каждой стойки есть предел по питанию и охлаждению, поэтому чем больше энергии забирает память, тем меньше остается процессорам и GPU-ускорителям.

Для систем с ИИ это особенно важно. Им нужны всё большие объемы памяти и более высокая скорость обмена данными, при этом рост энергопотребления приходится сдерживать. Micron прямо называет питание и отвод тепла одними из факторов, которые ограничивают плотность вычислений в дата-центре.

На этом фоне серверная индустрия обратила внимание на LPDDR5X — память, которую создавали для смартфонов и ноутбуков, где важны низкое энергопотребление и небольшой нагрев. В исследовании Micron LPDDR5X отвечала лишь за 6,8% общего энергопотребления системы при нагрузке на память.

В одном сервере экономия может быть не слишком заметной, но в дата-центре таких машин сотни или тысячи. Освободившуюся мощность можно направить на процессоры и GPU карты или разместить больше оборудования в той же стойке. То есть речь идет не только о расходах на электричество, но и о том, сколько вычислительных ресурсов можно получить из уже существующей инфраструктуры.

В марте 2026 года Micron начала поставлять заказчикам образцы 256-гигабайтных модулей SOCAMM2 и заявила для них примерно втрое меньшее энергопотребление и втрое меньшую площадь по сравнению со стандартными RDIMM.

Что такое SOCAMM2 и чем он отличается от RDIMM

SOCAMM2 — это съемный серверный модуль на базе LPDDR5X. Раньше такую память чаще распаивали прямо на плате, поэтому ее было сложно заменить или нарастить. SOCAMM2 сохраняет низкое энергопотребление LPDDR5X, но делает память модульной: ее можно обслуживать и менять без замены всей системной платы. Сам Micron описывает SOCAMM как компактный модульный формат LPDDR5X для серверов дата-центров.

От привычных RDIMM он отличается не только типом памяти, но и конструкцией. SOCAMM2 занимает меньше места на плате и использует более широкий 128-битный интерфейс.

У нового формата есть несколько основных преимуществ:

• Меньше энергопотребление. SOCAMM потребляет до 61% меньше энергии под нагрузкой и до 80% меньше в режиме ожидания по сравнению с DDR5 RDIMM.

• Выше скорость памяти. Micron указывает для SOCAMM поддержку LPDDR5X со скоростью до 9600 МТ/с.

• Компактнее конструкция. SOCAMM занимает меньше площади, чем RDIMM, что упрощает размещение большого объема памяти рядом с процессором. Для нового  SOCAMM2 256 ГБ Micron заявляет примерно втрое меньшую площадь по сравнению со стандартным RDIMM.

У Micron линейка серверных SOCAMM охватывает модули от 48 до 256 ГБ, а образцы старшей версии уже поставляются заказчикам. NVIDIA для процессора Vera также заявляет память SOCAMM LPDDR5X: до 1,5 ТБ на процессор и до 1,2 ТБ/с пиковой пропускной способности.

Что показали испытания

По характеристикам LPDDR5X выглядит привлекательно: высокая скорость, большой объем и меньшее энергопотребление. Но для дата-центра важнее, дает ли это заметный эффект в реальных задачах. Чтобы проверить это, сравнили несколько конфигураций памяти на разных нагрузках — от подготовки данных для ИИ до веб-сервисов и аналитики.

Результат зависел от самой задачи:

• Подготовка данных для ИИ. LPDDR5X-8533 обеспечила на 13% большую фактическую пропускную способность, чем вариант на 6400 МТ/с. В тесте Tensor Rebatching производительность выросла на 11%, а время обработки одной порции данных сократилось примерно на 10%. 

• Веб-сервис. В тесте MediaWiki более быстрая память снизила задержку в наиболее медленных запросах примерно на 9%. Преимущество становилось заметнее по мере роста нагрузки. 

• Аналитика. Здесь важнее оказалась не скорость, а объем. Конфигурация с 1 ТБ памяти вместо 512 ГБ позволила реже переносить промежуточные данные на SSD. В SparkBench это ускорило отдельные нагрузки примерно в 2–3 раза.

Последний пример особенно показателен: более высокая частота памяти сама по себе не гарантирует лучший результат. Если приложению не хватает объема RAM и приходится обращаться к SSD, дополнительная емкость может дать гораздо больший выигрыш, чем рост скорости.

SOCAMM2 интересен не тем, что LPDDR5X быстрее серверной DDR во всем. Его преимущество — в балансе: высокая пропускная способность, большой объем и меньшее энергопотребление в съемном формате. По мере роста плотности вычислений именно такой баланс может стать важнее простого наращивания скорости памяти.

Мы, в mClouds, пока "по старинке" используем модули RDIMM, включая 6400 и смотрим уже в сторону 8000, которых пока не видно на горизонте, вместе с новыми поколениями CPU.

Как думаете: сможет SOCAMM2 со временем потеснить RDIMM в серверах или останется решением для отдельных классов нагрузок?