AMD представила MEXT: SSD заменяет половину DRAM и экономит до 82%

AMD представила технологию MEXT, которая переносит редко используемые данные из дорогой оперативной памяти DRAM на значительно более дешёвые SSD-накопители, а алгоритмы машинного обучения не дают производительности заметно просесть. На первых 145 серверных системах компания оценила суммарную экономию примерно в 5 миллионов долларов.

Зачем это нужно

В крупных серверах на модули оперативной памяти может приходиться от 60 до 90% стоимости оборудования, пояснил вице-президент AMD по развитию бизнеса Гэри Смердон. Флеш-память в пересчёте на бит в 50 раз дешевле DRAM и потребляет в 30 раз меньше энергии, однако работает примерно в 500 раз медленнее. Обычная выгрузка данных на SSD способна серьёзно замедлить приложения, особенно чувствительные к задержкам.

Как работает прогнозирование

В основе MEXT лежит модель, производная от архитектуры Transformer: вместо следующего слова она предсказывает, какая страница памяти понадобится процессору следующей. Неактивные страницы перемещаются на накопитель, а перед повторным обращением возвращаются в DRAM. Первоначальное обучение занимает менее секунды на одном ядре процессора EPYC, после чего модель продолжает адаптироваться к нагрузке — графический ускоритель для работы не требуется.

Результаты тестов

Apache Spark: 99% исходной производительности при замене половины DRAM флеш-памятью.
Synopsys PrimeTime: 95% при замене половины DRAM; 80% — при сокращении DRAM до четверти.
Внутреннее внедрение на 86 серверах дало около 58 Тбайт дополнительной памяти; сопоставимый объём DRAM обошёлся бы в 3,3 миллиона долларов, а затраты на MEXT составили около 601 тысячи долларов — экономия 82%.

ПО предназначено прежде всего для серверов на процессорах AMD EPYC. Для Linux предусмотрен модуль ядра, для анализа нагрузки — утилита RAM View. AMD сотрудничает с производителями серверов, включая HPE, а коммерческое распространение лицензий через партнёров запланировано на следующий этап.

Частые вопросы

Что такое MEXT?

Технология AMD, которая переносит редко используемые данные из DRAM на SSD, а модель машинного обучения предсказывает, какие страницы памяти понадобятся следующими.