Технологія RDMA через USB4 дозволяє об'єднувати ресурси кількох ПК для ШІ. Джерело: AI
Microsoft випустила попередню версію технології RDMA (Remote Direct Memory Access) через USB4 для розробників на Windows. Це рішення дозволяє об'єднувати обчислювальні потужності та пам'ять кількох комп'ютерів у єдиний кластер за допомогою звичайних кабелів, щоб запускати локально великі мовні моделі, які не вміщуються в один пристрій.
Як працює RDMA через USB4
Технологія RDMA дозволяє передавати дані безпосередньо між пам'яттю двох систем, оминаючи стандартний мережевий стек. Це критично важливо для розподілених обчислень, оскільки мінімізує затримки та знімає зайве навантаження з центрального процесора. За даними досліджень, використання RDMA через USB4 забезпечує затримку передачі даних у межах 28–50 мікросекунд, що майже в чотири рази швидше за звичайний Ethernet через той самий порт.
Затримка при обміні повідомленнями (round-trip latency) залежно від їхнього розміру: порівняння RDMA та Ethernet через одне й те саме з’єднання USB4. Ілюстрація: Microsoft
Для створення такої системи не потрібні дорогі мережеві адаптери чи складне налаштування комутаторів. Достатньо з’єднати комп’ютери кабелями USB4. Проте є технічне обмеження: для повноцінного зв'язку в кластері кожен пристрій повинен мати N-1 портів. Тобто, якщо ви хочете об'єднати три ПК, принаймні один із них має бути оснащений двома роз'ємами USB4. Оскільки стандарт USB4 2.0 підтримує швидкість до 80 Гбіт/с, пропускної здатності вистачає для швидкого обміну даними між GPU та оперативною пам'яттю різних машин.
Результати тестів на «залізі» AMD
Для демонстрації можливостей Microsoft використала міні-ПК на базі представленого у 2025 році процесора Ryzen AI Max+ 395 (Strix Halo) зі 128 ГБ оперативної пам'яті. Три такі машини змогли успішно запустити модель Qwen3-235B-A22B з архітектурою Mixture-of-Experts та 4-бітним квантуванням.
More possibilities for local AI, across connected @Windows PCs. AMD is collaborating with @Microsoft on the RDMA over USB4 developer preview for Windows, helping developers explore larger models across connected PCs. "At AMD, we believe clustering is a critical part in a developer's experience to unlocking new possibilities for local AI and high-performance compute. We're excited to be working alongside Microsoft to support their new RDMA over USB4 driver to enhance the experience." – Andrej Zdravkovic, Senior Vice President and Chief Software Officer, AMD Learn more: https://t.co/6ZLLwE066k
— AI at AMD (@AIatAMD) November 19, 2026
У ході тестів система видала такі результати:
- Конфігурація Microsoft: приблизно 18.5 токенів на секунду.
- Власна оптимізована конфігурація AMD: 21.98 токенів на секунду.
Важливо, що провайдер NetworkDirect для USB4 та тестова платформа на базі llama.cpp є проєктами з відкритим вихідним кодом. Це дозволяє розробникам вільно експериментувати зі створенням власних ШІ-кластерів на базі сучасного споживчого заліза.