Microsoft: компонуемая память поможет преодолеть ограничения в ИИ-инфраструктуре

На фоне дефицита памяти, используемой в ИИ ЦОД, гиперскейлеры пересматривают подходы к её распределению. Компонуемая память (composable memory), позволяющая объединять ресурсы памяти нескольких серверов и выделять их для рабочих нагрузок по мере необходимости, является одним из наиболее практичных решений этой проблемы, считают в Microsoft, о чём пишет SiliconANGLE.

По словам Самира Раджадни (Samir Rajadnya, на фото ниже), главного архитектора Microsoft, команда специалистов компании изучает системные технологии, которые позволили бы превратить память из ресурса, «запертого» внутри конкретного сервера, в общий, динамически распределяемый ресурс в рамках всей платформы Azure.

Источник изображения: SiliconANGLE theCUBE/YouTube

«Как можно заметить из публикаций в СМИ, сейчас наблюдается нехватка памяти, — сообщил топ-менеджер Microsoft. — Следовательно, мы должны использовать её гораздо эффективнее. Важно, чтобы память направлялась туда, где того требует конкретная рабочая нагрузка. Если же память оказывается “запертой” в рамках задачи, которая её в данный момент не использует, мы попросту растрачиваем ценный ресурс».

Он назвал компонуемую архитектуру одним из ключевых направлений развития на ближайшие годы. «Раньше всё было жестко привязано к CPU или GPU; память фактически выступала лишь вспомогательным элементом для них. Теперь же память рассматривается как самостоятельный, критически важный ресурс», — заявил Раджадня.

Говоря о корпоративном сегменте, Раджадня отметил, что сегодня всё сводится к вопросу вертикальной интеграции: рабочей нагрузки, системы, ПО, аппаратной части — всё в едином комплексе. И такой подход необходим даже на уровне отдельных предприятий, подчеркнул он.

Эффективная работа подобных систем в крупных масштабах зависит от того, как организованы соединения между памятью и CPU или XPU, говорит Самир Раджадня. «Сейчас появляется множество замечательных инноваций как в сфере памяти, так и в области CPU и ускорителей (XPU), — сообщил он. — Но ключевой вопрос — как связать всё это воедино? Именно здесь критически важны технологии интерконнекта. В частности, значимую роль будут играть разработки в области оптических соединений. Всё это поможет нам создать так называемую компонуемую память».

Ранее Microsoft в партнёрстве с SAP и Intel запустила в облаке Azure виртуальные машины семейства M-Series с технологией Compute Express Link (CXL). Сообщается, что поддержка CXL способствует более эффективной работе SAP S/4HANA, обеспечивая, в том числе, больше гибкости в плане конфигурирования платформы при одновременном снижении совокупной стоимости владения.

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER. | Можете написать лучше? Мы всегда рады новым авторам.