Тизерне зображення. Джерело: AMD
Корпорація AMD представила чергову версію відкритої платформи GPU-обчислень ROCm 7.0, яка націлена на кардинальне покращення продуктивності в галузі штучного інтелекту. Нова технологічна платформа пропонує потужні механізми прискорення обчислювальних процесів із використанням графічних процесорів.
Ключові нововведення:
- Повна підтримка Instinct MI350 на архітектурі CDNA 4
- Оптимізоване навчання та інференс у FP4, FP6, FP8
- Підтримка розподіленого інференсу на зборках із кількома GPU
- Новий HIP 7.0 для кращої переносимості коду
- Інструменти для підприємств: AMD Resource Manager та AI Workbench
- Готові Docker-образи з моделями Llama 3.3 70B, Llama 3.1-405B, DeepSeek R1
Крім того, компанія презентувала Quark Toolkit - спеціалізований програмний комплекс для ефективної роботи з великомасштабними квантизованими моделями, що дозволяє суттєво оптимізувати обчислювальні витрати.
Свіжа версія ROCm 7.0 вже доступна на офіційному порталі ROCm AI, де можна знайти повну документацію, детальні інструкції та готові контейнери для швидкого початку роботи.
Джерело: www.amd.com