Microsoft научилась объединять несколько ПК по USB4 для запуска больших ИИ-моделей
Microsoft выпустила предварительную версию технологии RDMA поверх USB4, которая позволяет объединять два и более ПК под управлением Windows в единую систему и запускать на них локальные нейросети, не помещающиеся в память одной машины: для соединения нужны только кабели USB4, без сетевых адаптеров RDMA, коммутаторов и сторонних драйверов. В тестах три мини-ПК на Ryzen AI Max с графикой Radeon 8060S и 128 ГБ памяти запустили модель Qwen3-235B-A22B (235 млрд параметров) со скоростью около 18,5 токена в секунду, а кластер Intel из четырёх ПК с Core Ultra Series 3 разогнал GPTOSS-120B примерно до 54 токенов в секунду; задержка при обмене между двумя ПК упала до 28–50 микросекунд, что вчетверо ниже, чем у Ethernet через то же USB4-соединение.
Что анонсировала Microsoft
21 ноября 2026 года Microsoft представила предварительную версию (developer preview) технологии RDMA поверх USB4. Она даёт возможность соединять два и более компьютера под управлением Windows, у которых есть порты USB4, и запускать на них локальные нейросети, не помещающиеся в память одной машины. Системы объединяют оперативную память и графические процессоры всех подключённых устройств, а для связи нужны только кабели USB4.
Если требуется соединить три ПК, у одного из них должно быть два порта USB4. Покупать сетевой адаптер RDMA, настраивать коммутатор или ставить сторонние драйверы не нужно.
Как это работает
RDMA (удалённый прямой доступ к памяти) разрешает компьютерам Windows обращаться к памяти друг друга напрямую, минуя центральный процессор. Для реализации Microsoft задействовала NetworkDirect — интерфейс пользовательского уровня для высокоскоростной передачи данных с низкой задержкой. Поддержка RDMA через NetworkDirect существует в Windows давно, поэтому внедрение функции прошло быстро.
По данным Microsoft, при обмене между двумя ПК задержка для небольших сообщений снизилась до 28–50 микросекунд — примерно в четыре раза меньше, чем у Ethernet через то же USB4-соединение. Низкая задержка сохраняется и на скорости 40 Гбит/с, и на 80 Гбит/с.
Тест AMD: модель на 235 млрд параметров
AMD собрала кластер из трёх мини-ПК на процессорах Ryzen AI Max с графикой Radeon 8060S и 128 ГБ объединённой памяти. При подключении через USB4 (40 Гбит/с) системы запустили модель Qwen3-235B-A22B — «смесь экспертов» на 235 млрд параметров — со скоростью около 18,5 токена в секунду при 4-битном квантовании. В отдельных замерах AMD получила 21,98 токена в секунду на декодировании и 117,98 токена в секунду на обработке промптов.
Тест Intel: четыре ПК против трёх
Intel проверила модель GPTOSS-120B на кластере из трёх и четырёх ПК с процессорами Core Ultra Series 3, по 64 ГБ памяти на машину. Три ПК выдали около 49 токенов в секунду, добавление четвёртого подняло результат примерно до 54 токенов в секунду. Модель на 120 млрд параметров не помещается в память одной системы с 64 ГБ ОЗУ, поэтому без объединения компьютеров её вообще не запустить.
| Кто тестировал | Модель | Конфигурация | Скорость |
|---|---|---|---|
| Microsoft | Qwen3-235B-A22B | 3 мини-ПК Ryzen AI Max+ 395, 128 ГБ | ~18,5 ток/с |
| AMD | Qwen3-235B-A22B | 3 мини-ПК Ryzen AI Max, Radeon 8060S, 128 ГБ | 21,98 ток/с (декодирование) |
| Intel | GPTOSS-120B | 3 ПК Core Ultra Series 3, 64 ГБ | ~49 ток/с |
| Intel | GPTOSS-120B | 4 ПК Core Ultra Series 3, 64 ГБ | ~54 ток/с |
Для максимальной эффективности Microsoft рекомендует топологию «полносвязная сеть» (fullmesh). Последовательное соединение устройств (daisy-chaining) заметно снижает производительность.
Как включить функцию
RDMA через USB4 появится в канале Windows Insider Experimental Channel, в разделе Future Platforms. По умолчанию функция отключена: для активации нужно изменить параметр в реестре и включить режим тестовой подписи (test signing), что временно отключает Secure Boot.
Провайдер NetworkDirect для USB4 и тестовая платформа на базе llama.cpp — проекты с открытым исходным кодом. Microsoft работает вместе с AMD, Intel и open-source-сообществом, чтобы расширить число совместимых ПК, и изучает, как Windows ML и компилятор DirectX Compute Graph Compiler помогут в будущем запускать ИИ-задачи сразу на нескольких компьютерах.
Вывод: Microsoft превращает обычные ПК с портами USB4 в дешёвый кластер для локального запуска больших нейросетей. Задержка вчетверо ниже, чем у Ethernet, а кабели USB4 заменяют дорогое сетевое оборудование.
Частые вопросы
Как объединить несколько компьютеров в один для запуска нейросети?
В предварительной версии Windows нужно соединить ПК с портами USB4 кабелями, включить RDMA через реестр и режим тестовой подписи, после чего системы объединят оперативную память и GPU.
Какие компьютеры подходят для запуска больших ИИ-моделей локально?
Нужны современные ПК с портами USB4. Для объединения трёх машин у одной из них должно быть два порта USB4. Тесты проходили на Ryzen AI Max со 128 ГБ памяти и на Core Ultra Series 3 с 64 ГБ.
Что такое RDMA и зачем он нужен?
RDMA — удалённый прямой доступ к памяти: компьютер обращается к памяти другой машины напрямую, минуя центральный процессор и большую часть сетевого стека. Это даёт низкую задержку и снижает нагрузку на CPU.
Сколько памяти нужно, чтобы запустить модель на 120 млрд параметров?
В один ПК с 64 ГБ ОЗУ такая модель не помещается. Intel объединила три машины по 64 ГБ и получила около 49 токенов в секунду, а четыре машины — около 54 токенов в секунду.
Источники: habr.com, ixbt.com
Читайте также
- NVIDIA потеряла $1 трлн капитализации после ухода Дженсена Хуанга с поста CEO
- Inkling 2 Mini от Thinking Machines: открытая ИИ-модель запускается на Mac с 32 ГБ памяти
- Huawei представила ИИ-смартфон OSTA O1 Pro: экран 6,39″, камера 200 Мп, батарея 7000 мАч, цены от 5499 юаней
- Signal начал блокировать скриншоты, чтобы защитить переписки от ИИ-агентов
- Claude от Anthropic решил две задачи физики чёрных дыр, которые не поддавались учёным десятки лет
Рекомендованные статьи