ПолСакума.com
Компания AMD анонсировала новые ускорители и процессоры, предназначенные для работы с большими языковыми моделями (LLM).
Что известно
Чипмейкер представил ускоритель Instinct MI300X и процессор Instinct M1300A для обучения и вождения LLM. По заявлению компании, обе новинки превосходят своих предшественников по объёму памяти и энергоэффективности.
По словам генерального директора AMD Лизы Су, MI300X — «самый мощный ускоритель в мире». Он сравним с чипом Nvidia H100 с точки зрения обучения LLM, но в 1,4 раза быстрее делает вывод при использовании модели Llama 2 от Meta (70 миллиардов параметров).
AMD также объявила о партнерстве с Microsoft для внедрения MI300X в облачные вычисления Azure. Meta также объявила о планах по внедрению процессоров MI300 в своих центрах обработки данных.
Кроме того, Су объявила о выпуске APU MI300A для центров обработки данных, который, по ее словам, увеличит размер рынка до $45 млрд. APU сочетают в себе процессор и графический процессор для более быстрых вычислений. По данным AMD, MI300A обеспечивает высокую производительность, быстрое обучение модели и в 30 раз более высокую энергоэффективность. Он имеет в 1,6 раза больший объем памяти по сравнению с H100 и реализует унифицированную память.
MI300A будет использоваться в суперкомпьютере El Capitan, построенном Hewlett Packard Enterprise для Ливерморской национальной лаборатории. Это одна из самых мощных установок в мире с производительностью более 2 эксафлопс.
Компания не предоставила информацию о ценах на новинки.
Кроме того, AMD анонсировала Ryzen 8040 — чипы, которые позволят реализовать в мобильных устройствах больше функций искусственного интеллекта. Согласно объявлению, серия 8040 обеспечивает в 1,6 раза большую производительность обработки искусственного интеллекта по сравнению с предыдущим поколением, а также имеет встроенные нейронные процессоры (NPU).
Компания ожидает, что продукты на базе Ryzen 8040 будут доступны в первом квартале 2024 года.