AMD готовится выпустить свой программный стек ROCm 6.1 с расширенной поддержкой и обширными оптимизационными изменениями.
Team Red в последнее время наращивает темпы разработки ROCm: еще в декабре 2023 года мы увидели дебют ROCm 6.0, который включал поддержку AI-ускорителей AMD Instinct MI300A/MIX300X, а также несколько изменений для улучшения состояния стека. На этот раз новый ROCm 6.1 также имеет аналогичную природу. Тем не менее, вместо совместимости продуктов последнее обновление содержит ряд новых дополнений и исправлений, улучшающих вычислительные возможности предложений AMD по искусственному интеллекту.
Phoronix сообщает, что AMD постоянно выпускает обновления программного стека ROCm. Team Red добавила новые функции в свою библиотеку глубокого обучения с открытым исходным кодом MIOpen, которая теперь включает модель прогнозирования параметров на основе искусственного интеллекта и несколько исправлений. Кроме того, в механизм вывода графов AMD, MIGraphX, включена поддержка FP8 и расширена поддержка нескольких моделей LLM, таких как Llama-2 и Stable Diffusion 2.1.
Еще одним интересным событием являются изменения, внесенные в API-интерфейс HIP компании AMD, который направлен на переносимость кода и программирование на гетерогенных вычислительных системах. Теперь он поставляется с новым репозиторием «hipother», целью которого является предоставление внутренней реализации API для платформ, отличных от AMD. Недавно мы стали свидетелями портирования кода, когда библиотеки CUDA использовались на платформе ROCm через ZLUDA. Хотя гетерогенное программирование — это то, чему в последнее время не уделялось внимания, в будущем оно может измениться.
Представители AMD заявили, что ROCm достиг паритета программного обеспечения с CUDA в обучении больших языковых моделей, а постоянные обновления могут привести стек к позиции, в которой он будет конкурировать с другими лидерами в отрасли.
Иван Ковалев
VIA