Тизерное изображение. Источник: AMD
Корпорация AMD представила очередную версию открытой платформы GPU-вычислений ROCm 7.0, которая нацелена на кардинальное улучшение производительности в области искусственного интеллекта. Новая технологическая платформа предлагает мощные механизмы ускорения вычислительных процессов с использованием графических процессоров.
Ключевые нововведения:
- Полная поддержка Instinct MI350 на архитектуре CDNA 4
- Оптимизированное обучение и инференс в FP4, FP6, FP8
- Поддержка распределенного инференса на сборках с несколькими GPU
- Новый HIP 7.0 для лучшей переносимости кода
- Инструменты для предприятий: AMD Resource Manager и AI Workbench
- Готовые Docker-образы с моделями Llama 3.3 70B, Llama 3.1-405B, DeepSeek R1
Кроме того, компания презентовала Quark Toolkit — специализированный программный комплекс для эффективной работы с крупномасштабными квантизованными моделями, который позволяет существенно оптимизировать вычислительные затраты.
Свежая версия ROCm 7.0 уже доступна на официальном портале ROCm AI, где можно найти полную документацию, подробные инструкции и готовые контейнеры для быстрого начала работы.
Источник: www.amd.com