OpenAI про глобальні запаси DRAM: час перерозподілити пам'ять? Джерело: AI
Генеральний директор OpenAI Сем Альтман висловив занепокоєння неефективним, на його думку, розподілом глобальних запасів оперативної пам'яті (DRAM). В умовах дефіциту, що росте, він вважає марнотратством використання значних обсягів DRAM в персональних комп'ютерах, де вона, як правило, активно задіяна лише невелику частину часу.
Ця заява прозвучала у подкасті Cheeky Pint у контексті обговорення розвитку локальних моделей штучного інтелекту, які виконують обчислення безпосередньо на пристрої користувача, минаючи хмарну інфраструктуру.
Ключові тези Альтмана про ефективність DRAM
Альтман наголосив, що зберігання великих обсягів DRAM у мільйонах домашніх ПК не є оптимальним з погляду глобальної ефективності ресурсів. Він навів приклад, де встановлена пам'ять використовується лише 5% часу . Важливо, що це показник належить до тимчасової завантаження ресурсів, а чи не до фактичного заповнення обсягу оперативної пам'яті. Детальної методики розрахунку цих 5% у цитаті не наводилося.
Глава OpenAI стверджує, що при обмеженій пропозиції мікросхем DRAM доцільніше прагнути максимального завантаження обладнання в хмарних центрах обробки даних. Така інфраструктура здатна обслуговувати запити багатьох користувачів, динамічно розподіляючи обчислювальні ресурси в режимі 24/7.
Альтман не озвучив конкретних пропозицій щодо примусового перерозподілу пам'яті або обмеження обсягів RAM в домашніх ПК.
Причини дискусії: хмари проти локальних обчислень
Заява Альтмана прозвучала на тлі різкого зростання попиту на згадку з боку ІІ-індустрії, що призвело до активного розширення обчислювальної інфраструктури великими технологічними компаніями. Це також впливає на розподіл виробничих потужностей виробників пам'яті та призводить до подорожчання DRAM на ринку (в окремих випадках до чотирьох-шости разів на рік, хоча це зростання не універсальне для всіх типів і регіонів).
Позиція OpenAI акцентує увагу на економічній ефективності хмарної моделі, де дороге обладнання може обслуговувати багато клієнтів із високим завантаженням. Однак у локальних обчислень існують свої незаперечні переваги:
- Повний контроль користувача над власними даними.
- Можливість автономної роботи без постійного підключення до Інтернету.
- Відсутність залежності від сторонніх хмарних послуг.
- Передбачуваність видатків без підписок та тарифів за використання.
До того ж оперативна пам'ять у домашньому комп'ютері використовується далеко не тільки для ІІ-завдань. Ігри, веб-браузери, професійні програми для монтажу відео, розробки програмного забезпечення та безліч інших програм активно залучають RAM. Навіть якщо ПК не працює цілодобово, це не робить марну пам'ять.
Для OpenAI, як розробника переважно хмарних ІІ-сервісів, це питання має і комерційне значення. Розповсюдження локальних ІІ-моделей потенційно може знизити залежність користувачів від їх хмарних пропозицій.
Зрештою, Сем Альтман порушив важливе питання щодо ефективності використання обмежених світових ресурсів DRAM, але не запропонував комплексного рішення, яке б змогло примирити інтереси великого хмарного бізнесу з реальними потребами та перевагами персональних комп'ютерів.
Джерело: Cheeky Pint