OpenAI о глобальных запасах DRAM: время перераспределить память?. Источник: AI
Генеральный директор OpenAI Сэм Альтман выразил озабоченность неэффективным, по его мнению, распределением глобальных запасов оперативной памяти (DRAM). В условиях растущего дефицита он считает расточительством использование значительных объемов DRAM в персональных компьютерах, где она, как правило, активно задействована лишь небольшую часть времени.
Это заявление прозвучало в подкасте Cheeky Pint в контексте обсуждения развития локальных моделей искусственного интеллекта, которые выполняют вычисления непосредственно на устройстве пользователя, минуя облачную инфраструктуру.
Ключевые тезисы Альтмана об эффективности DRAM
Альтман подчеркнул, что хранение больших объемов DRAM в миллионах домашних ПК не является оптимальным с точки зрения глобальной эффективности ресурсов. Он привел пример, где установленная память используется лишь 5% времени. Важно отметить, что этот показатель относится к временной загрузке ресурсов, а не к фактическому заполнению объема оперативной памяти. Подробной методики расчета этих 5% в цитате не приводилось.
Глава OpenAI утверждает, что при ограниченном предложении микросхем DRAM более целесообразно стремиться к максимальной загрузке оборудования в облачных центрах обработки данных. Такая инфраструктура способна обслуживать запросы множества пользователей, динамически распределяя вычислительные ресурсы в режиме 24/7.
При этом Альтман не озвучил конкретных предложений по принудительному перераспределению памяти или ограничению объемов RAM в домашних ПК.
Причины для дискуссии: облака против локальных вычислений
Заявление Альтмана прозвучало на фоне резко возросшего спроса на память со стороны ИИ-индустрии, что привело к активному расширению вычислительной инфраструктуры крупными технологическими компаниями. Это также влияет на распределение производственных мощностей производителей памяти и приводит к удорожанию DRAM на рынке (в отдельных случаях до четырех-шести раз за год, хотя этот рост не универсален для всех типов и регионов).
Позиция OpenAI акцентирует внимание на экономической эффективности облачной модели, где дорогостоящее оборудование может обслуживать множество клиентов с высокой загрузкой. Однако у локальных вычислений существуют свои неоспоримые преимущества:
- Полный контроль пользователя над собственными данными.
- Возможность автономной работы без постоянного подключения к интернету.
- Отсутствие зависимости от сторонних облачных сервисов.
- Предсказуемость расходов без подписок и тарифов за использование.
К тому же, оперативная память в домашнем компьютере используется далеко не только для ИИ-задач. Игры, веб-браузеры, профессиональные приложения для монтажа видео, разработки ПО и множество других программ активно задействуют RAM. Даже если ПК не работает круглосуточно, это не делает установленную память бесполезной.
Для OpenAI, как разработчика преимущественно облачных ИИ-сервисов, данный вопрос имеет и коммерческое значение. Распространение локальных ИИ-моделей потенциально может снизить зависимость пользователей от их облачных предложений.
В конечном итоге, Сэм Альтман поднял важный вопрос об эффективности использования ограниченных мировых ресурсов DRAM, но не предложил комплексного решения, которое смогло бы примирить интересы крупного облачного бизнеса с реальными потребностями и преимуществами персональных компьютеров.
Источник: Cheeky Pint