Microsoft научилась объединять несколько ПК по USB4 для запуска больших ИИ-моделей

Microsoft выпустила предварительную версию технологии RDMA поверх USB4, которая позволяет объединять два и более ПК под управлением Windows в единую систему и запускать на них локальные нейросети, не помещающиеся в память одной машины: для соединения нужны только кабели USB4, без сетевых адаптеров RDMA, коммутаторов и сторонних драйверов. В тестах три мини-ПК на Ryzen AI Max с графикой Radeon 8060S и 128 ГБ памяти запустили модель Qwen3-235B-A22B (235 млрд параметров) со скоростью около 18,5 токена в секунду, а кластер Intel из четырёх ПК с Core Ultra Series 3 разогнал GPTOSS-120B примерно до 54 токенов в секунду; задержка при обмене между двумя ПК упала до 28–50 микросекунд, что вчетверо ниже, чем у Ethernet через то же USB4-соединение.

Что анонсировала Microsoft

21 ноября 2026 года Microsoft представила предварительную версию (developer preview) технологии RDMA поверх USB4. Она даёт возможность соединять два и более компьютера под управлением Windows, у которых есть порты USB4, и запускать на них локальные нейросети, не помещающиеся в память одной машины. Системы объединяют оперативную память и графические процессоры всех подключённых устройств, а для связи нужны только кабели USB4.

Если требуется соединить три ПК, у одного из них должно быть два порта USB4. Покупать сетевой адаптер RDMA, настраивать коммутатор или ставить сторонние драйверы не нужно.

Как это работает

RDMA (удалённый прямой доступ к памяти) разрешает компьютерам Windows обращаться к памяти друг друга напрямую, минуя центральный процессор. Для реализации Microsoft задействовала NetworkDirect — интерфейс пользовательского уровня для высокоскоростной передачи данных с низкой задержкой. Поддержка RDMA через NetworkDirect существует в Windows давно, поэтому внедрение функции прошло быстро.

По данным Microsoft, при обмене между двумя ПК задержка для небольших сообщений снизилась до 28–50 микросекунд — примерно в четыре раза меньше, чем у Ethernet через то же USB4-соединение. Низкая задержка сохраняется и на скорости 40 Гбит/с, и на 80 Гбит/с.

Тест AMD: модель на 235 млрд параметров

AMD собрала кластер из трёх мини-ПК на процессорах Ryzen AI Max с графикой Radeon 8060S и 128 ГБ объединённой памяти. При подключении через USB4 (40 Гбит/с) системы запустили модель Qwen3-235B-A22B — «смесь экспертов» на 235 млрд параметров — со скоростью около 18,5 токена в секунду при 4-битном квантовании. В отдельных замерах AMD получила 21,98 токена в секунду на декодировании и 117,98 токена в секунду на обработке промптов.

Тест Intel: четыре ПК против трёх

Intel проверила модель GPTOSS-120B на кластере из трёх и четырёх ПК с процессорами Core Ultra Series 3, по 64 ГБ памяти на машину. Три ПК выдали около 49 токенов в секунду, добавление четвёртого подняло результат примерно до 54 токенов в секунду. Модель на 120 млрд параметров не помещается в память одной системы с 64 ГБ ОЗУ, поэтому без объединения компьютеров её вообще не запустить.

Кто тестировалМодельКонфигурацияСкорость
MicrosoftQwen3-235B-A22B3 мини-ПК Ryzen AI Max+ 395, 128 ГБ~18,5 ток/с
AMDQwen3-235B-A22B3 мини-ПК Ryzen AI Max, Radeon 8060S, 128 ГБ21,98 ток/с (декодирование)
IntelGPTOSS-120B3 ПК Core Ultra Series 3, 64 ГБ~49 ток/с
IntelGPTOSS-120B4 ПК Core Ultra Series 3, 64 ГБ~54 ток/с

Для максимальной эффективности Microsoft рекомендует топологию «полносвязная сеть» (fullmesh). Последовательное соединение устройств (daisy-chaining) заметно снижает производительность.

Как включить функцию

RDMA через USB4 появится в канале Windows Insider Experimental Channel, в разделе Future Platforms. По умолчанию функция отключена: для активации нужно изменить параметр в реестре и включить режим тестовой подписи (test signing), что временно отключает Secure Boot.

Провайдер NetworkDirect для USB4 и тестовая платформа на базе llama.cpp — проекты с открытым исходным кодом. Microsoft работает вместе с AMD, Intel и open-source-сообществом, чтобы расширить число совместимых ПК, и изучает, как Windows ML и компилятор DirectX Compute Graph Compiler помогут в будущем запускать ИИ-задачи сразу на нескольких компьютерах.

Вывод: Microsoft превращает обычные ПК с портами USB4 в дешёвый кластер для локального запуска больших нейросетей. Задержка вчетверо ниже, чем у Ethernet, а кабели USB4 заменяют дорогое сетевое оборудование.

Частые вопросы

Как объединить несколько компьютеров в один для запуска нейросети?

В предварительной версии Windows нужно соединить ПК с портами USB4 кабелями, включить RDMA через реестр и режим тестовой подписи, после чего системы объединят оперативную память и GPU.

Какие компьютеры подходят для запуска больших ИИ-моделей локально?

Нужны современные ПК с портами USB4. Для объединения трёх машин у одной из них должно быть два порта USB4. Тесты проходили на Ryzen AI Max со 128 ГБ памяти и на Core Ultra Series 3 с 64 ГБ.

Что такое RDMA и зачем он нужен?

RDMA — удалённый прямой доступ к памяти: компьютер обращается к памяти другой машины напрямую, минуя центральный процессор и большую часть сетевого стека. Это даёт низкую задержку и снижает нагрузку на CPU.

Сколько памяти нужно, чтобы запустить модель на 120 млрд параметров?

В один ПК с 64 ГБ ОЗУ такая модель не помещается. Intel объединила три машины по 64 ГБ и получила около 49 токенов в секунду, а четыре машины — около 54 токенов в секунду.

Источники: habr.com, ixbt.com

Рекомендованные статьи