Кластер мини-ПК Bosgame M5 AI. Источник: Bosgame
Запуск больших языковых моделей давно ассоциируется с двумя вариантами: либо платить облачным провайдерам непомерные суммы за GPU-время, либо инвестировать в серверную инфраструктуру, которая потребляет столько электроэнергии, сколько небольшой город. Компания Bosgame предложила третий путь — демонстрирует, что DeepSeek-V3.1 на 671 миллиард параметров можно запустить локально, без дорогостоящих облачных сервисов и без стойки серверов Nvidia H100.
От единицы к монстру: архитектура кластера
Основу решения составляют семь мини-ПК модели M5 AI, объединённых в распределённую систему. Каждый узел построен на процессоре AMD Ryzen AI Max+ 395 из линейки Strix Halo — процессоре, где AMD сделала акцент на интегрированную графику и быструю память, критически важные для ИИ-задач.
Мини-ПК M5 AI. Иллюстрация: Bosgame
В топовой конфигурации каждый мини-ПК оснащён 128 ГБ оперативной памяти — достаточно для повседневных нужд, но недостаточно для самостоятельного запуска DeepSeek-V3.1. Однако эта кажущаяся ограниченность становится преимуществом в кластеризованной архитектуре.
Как семь слабых узлов становятся сильнее одного
Волшебство происходит благодаря технологии USB4 Direct Connection, которая позволяет семи устройствам работать в едином кластере без сложной централизованной серверной архитектуры. В результате получается распределённая система со следующими параметрами:
- Унифицированная память: 896 ГБ в сумме;
- GPU-память: до 672 ГБ для нейросетевых вычислений;
- Отсутствие необходимости в профессиональном серверном охлаждении;
- Энергопотребление: в пределах разумного для домашней или офисной сети.
Основные характеристики M5 AI. Иллюстрация: Bosgame
Такой подход открывает возможность постепенного расширения кластера: начните с одного устройства и добавляйте новые узлы по мере роста амбиций ваших ИИ-проектов. Это фундаментально отличается от традиционного инвестирования в стойку серверов, которая требует единовременных крупных трат.
Цена локальности: когда автономность становится дорогой
Однако здесь есть камень преткновения. Если год назад топовая конфигурация M5 AI стоила примерно $1 700 (75 600 грн), то сейчас производитель требует за неё $2 800 (124 600 грн) — рост почти в полтора раза. Это может быть результатом дефицита мощных процессоров AMD или попросту осознанием уникальности предложения на рынке.
Несмотря на подорожание, кластер из семи узлов остаётся привлекательным решением для разработчиков, которые хотят сохранять полный контроль над своими данными. Для них это не просто выбор технологии, а выбор идеологии — работа локально, без зависимости от облачных гигантов.
Контекст: большая игра идёт на других ставках
На фоне этих инициатив становится ясно, что рынок ИИ-вычислений развивается в нескольких параллельных направлениях. Пока Bosgame собирает столовые кластеры для независимых разработчиков, SpaceX готовит контракт стоимостью в миллиарды долларов на предоставление облачных ИИ-сервисов для Пентагона. Это демонстрирует совершенно иной уровень масштабирования и совсем другие амбиции.
Решение Bosgame интересно именно тем, что оно позиционирует себя как альтернатива облачной монополии — для тех, кто готов платить за независимость.