gdb/X
Генеральний директор NVIDIA Дженсен Хуанг особисто привіз перші системи DGX H200 в офіс OpenAI в Сан-Франциско. Цей жест відзначив у твіті співзасновник стартапу Грег Брокман (Greg Brockman).
що відомо
DGX H200 - найновіший і найпотужніший процесор NVIDIA для штучного інтелекту. Його постачання OpenAI, лідера в галузі ІІ-досліджень, знаменує важливий етап, оскільки компанія отримала передове обладнання для роботи з ІІ.
Перший @NVIDIA DGX H200 у світі, hand-delivered до OpenAI і присвячений Jensen "взаємодії AI, computing, і humanity": pic.twitter.com/rEJu7OTNGT
- Greg Brockman (@gdb) Квітень 24, 2024
Ключові вдосконалення DGX H200 включають збільшення пропускної спроможності та обсягу пам'яті на 40% та 80% відповідно порівняно з попередньою моделлю. Це досягнуто за рахунок інтеграції пам'яті HBM3e, що є критичним для навчання великих генеративних ІІ-моделей.
За словами віце-президента NVIDIA, розширена пам'ять H200 покликана значно підвищити продуктивність під час роботи зі складними моделями ІІ.
Для OpenAI купівля прискорювачів є важливим кроком для розширення дослідницьких можливостей, особливо в плані довгоочікуваної GPT-5. Збільшена обчислювальна потужність дозволить збільшити продуктивність ІІ-моделей.
Поява H200 стане каталізатором прогресу у всій індустрії ІІ, відкриваючи шлях для нових амбітних проектів та проривів у різних сферах.
При цьому високий ризик дефіциту, як це було з попередньою H100. NVIDIA прагне розподіляти ресурси справедливо серед виробників систем та хмарних провайдерів.
Джерело: @gdb, VentureBeat