AMD анонсирует предстоящую версию ROCm 6.3 с большим приростом производительности и новыми функциями

То ли из-за несвоевременного размещения поста в блоге, то ли по другим причинам, но в большой обзорной статье рассказывается о новых функциях ROCm 6.3… Но обновлённое программное обеспечение ROCm 6.3 с открытым исходным кодом для вычислений на графических процессорах, по-видимому, ещё не выпущено в их обычных источниках. В любом случае, в ROCm 6.3 есть новые функции и значительный прирост производительности.

Сегодня вечером на community.amd.com был опубликован пост в блоге, в котором рассказывается обо всех основных функциях ROCm 6.3. Единственная проблема в том, что ROCm 6.3 ещё не вышел. Для многих репозиториев ROCm на GitHub, на которые я подписан, ещё не было выпущено ни одного тега/релиза ROCm 6.3. Портал документации ROCm по-прежнему указывает на ROCm 6.2.4 как на последнюю версию. На момент написания статьи в репозитории repo.radeon.com/rocm/ и архивах пакетов для различных дистрибутивов Linux еще нет ROCm 6.3.

Как бы то ни было, судя по сегодняшнему посту в блоге, выпуск ROCm 6.3.0 не за горами. В ROCm 6.3 будет ряд оптимизаций производительности, а также новые функции. Вот некоторые особенности ROCm 6.3 из сегодняшнего поста в блоге AMD:

• SGLang — это новая среда выполнения, поддерживаемая ROCm 6.3, которая «специально разработана для оптимизации вывода данных из передовых генеративных моделей, таких как LLM и VLM, на графических процессорах AMD Instinct». С помощью SGLang AMD обещает в 6 раз более высокую производительность при выводе данных из LLM, простоту использования благодаря интеграции с Python и многое другое.
• FlashAttention-2, оптимизированный для ROCm 6.3, обеспечивает ускорение до 3 раз и другие преимущества.
• Новый компилятор AMD Fortran включен в ROCm 6.3 с прямой загрузкой на графический процессор, обратной совместимостью и другими преимуществами.
• Новый многоузловой FFT в рамках rocFFT для более мощных рабочих процессов HPC.
• Поддержка видеокодека AV1 для обработки мультимедиа в rocDecode и rocPyDecode.
• Декодирование JPEG с ускорением на GPU с помощью библиотеки rocJPEG.
• Улучшенное качество звука благодаря библиотеке rocAL.
• ROCm 6.2 Omnitrace был переименован в ROCm System Profiler, а Omniperf теперь называется ROCm Compute Profiler.

ROCm 6.3 выглядит довольно интересным релизом… Мы с нетерпением ждем его выхода и, надеемся, найдем время для нового тестирования/сравнения.

Этот выпуск ROCm 6.3 в конце года тоже немного необычен, так как мы предполагали, что AMD выпустит ROCm 7.0 примерно в это время. ROCm 6.0 вышел в декабре 2023 года, ROCm 5.0 — в начале 2022 года, ROCm 4.0 — в декабре 2020 года, ROCm 3.0 — в ноябре 2019 года и ROCm 2.0 — в декабре 2018 года. Между основными релизами ROCm X.0 проходит примерно год, и обычно они выходят в конце каждого календарного года… Так что выход этого большого релиза ROCm 6.3 в конце ноября или около того, похоже, нарушает эту последовательность. ROCm 6.3 — довольно тяжёлая программа, так что я был бы удивлён, если бы в ближайшие месяц-два внезапно вышел большой релиз ROCm 7.0.

Летом также ходили разговоры о том, что новый программный стек AMD Unified AI появится в конце года. Но, учитывая, что ROCm 6.3 вышел без признаков ROCm 7.0, мне интересно, отложили ли его выпуск на следующий год, когда выйдет ROCm 7.0, или что-то происходит, или этот программный стек AMD Unified AI будет просто поверх текущего программного обеспечения ROCm и в остальном будет независимым.

В любом случае, в этой статье в блоге AMD сегодня вечером мы расскажем обо всех интересных функциях ROCm 6.3, а в 2025 году мы с нетерпением ждём новых обновлений.