Кластер міні-ПК Bosgame M5 AI. Джерело: Bosgame
Запуск великих мовних моделей давно асоціюється з двома варіантами: або платити хмарним провайдерам непомірні суми за GPU-час, або інвестувати в серверну інфраструктуру, яка споживає стільки електроенергії, як невелике місто. Компанія Bosgame запропонувала третій шлях – демонструє, що DeepSeek-V3.1 на 671 мільярд параметрів можна запустити локально, без дорогих хмарних сервісів та без стійки серверів Nvidia H100.
Від одиниці до монстра: архітектура кластера
Основу рішення становлять сім міні-ПК моделі M5 AI, об'єднаних у розподілену систему. Кожен вузол побудований на процесорі AMD Ryzen AI Max+ 395 з лінійки Strix Halo - процесорі, де AMD зробила акцент на інтегровану графіку та швидку пам'ять, критично важливі для ІІ-завдань.
Міні-ПК M5 AI. Ілюстрація: Bosgame
У топової конфігурації кожен міні-ПК оснащений 128 ГБ оперативної пам'яті - достатньо для повсякденних потреб, але недостатньо для самостійного запуску DeepSeek-V3.1. Однак ця обмеженість стає перевагою в кластеризованій архітектурі.
Як сім слабких вузлів стають сильнішими за одного
Чари відбуваються завдяки технології USB4 Direct Connection, яка дозволяє семи пристроям працювати в єдиному кластері без складної централізованої серверної архітектури. В результаті виходить розподілена система з наступними параметрами:
- Уніфікована пам'ять: 896 ГБ у сумі;
- GPU-пам'ять: до 672 ГБ для нейромережевих обчислень;
- Відсутність потреби у професійному серверному охолодженні;
- енергоспоживання: у межах розумного для домашньої чи офісної мережі.
Основні характеристики M5 AI. Ілюстрація: Bosgame
Такий підхід відкриває можливість поступового розширення кластера: почніть з одного пристрою і додайте нові вузли зі зростанням амбіцій ваших ІІ-проектів. Це фундаментально відрізняється від традиційного інвестування у стійку серверів, яка потребує одноразових великих витрат.
Ціна локальності: коли автономність стає дорогою
Однак тут є камінь спотикання. Якщо рік тому топова конфігурація M5 AI коштувала приблизно $1 700 (75 600 грн), то зараз виробник вимагає за неї $2 800 (124 600 грн) зростання майже в півтора рази. Це може бути результатом дефіциту потужних процесорів AMD або просто усвідомленням унікальності пропозиції на ринку.
Незважаючи на подорожчання, кластер із семи вузлів залишається привабливим рішенням для розробників, які хочуть зберігати повний контроль над своїми даними. Для них це не просто вибір технології, а вибір ідеології – робота локально, незалежно від хмарних гігантів.
Контекст: велика гра йде на інших ставках
На тлі цих ініціатив стає ясно, що ринок ІІ-обчислень розвивається у кількох паралельних напрямках. Поки Bosgame збирає столові кластери для незалежних розробників, SpaceX готує контракт вартістю мільярди доларів на надання хмарних ІІ-сервісів для Пентагону. Це демонструє зовсім інший рівень масштабування та зовсім інші амбіції.
Рішення Bosgame цікаве саме тим, що воно позиціонує себе як альтернатива хмарній монополії для тих, хто готовий платити за незалежність.