AMD обнови платформата ROCm 5.6 с оптимизация за AI

3 юли 2023 г. – AMD пусна новата AMD ROCm 5.6 отворена софтуерна платформа. В свой блог старши вицепрезидентът на AMD AI групата – Вамси Бопана – разказва за някои от новите функции на ROCm 5.6.

За работни задачи свързани с изкуствен интелект (AI) и големи езикови модели (LLM), ROCm 5.6 предлага:

• Интегриране на тестов набор за Hugging Face в ROCm QA

• Нарастваща поддръжка на OpenAI Triton в PyTorch 2.0 индукторен режим

• Поддръжка за по-широката общност, с цел осигуряване OpenXLA поддръжка чрез ROCm за PyTorch, TensorFlow и JAX.

За HPC приложения (високопроизводителни изчислителни среди), ROCm 5.6 въвежда подобрения в няколко математически библиотеки като FFT, BLAS и решаващи средства, които формират основата за HPC приложенията, и подобрения на инструментите за разработка и внедряване на ROCm, включително инсталиране, ROCgdb (интегриран дебъгер CPU-GPU), ROCm профайлър и документации.

През следващите месеци AMD ще оптимизира допълнително рамките и бекенд компилаторите за оптимална производителност, които включват подобрения на MLIR инфраструктурата, подкрепящи поддръжката на AMD за OpenAI Triton и OpenXLA компилатори. Клиентите могат да очакват и допълнителни AI модели с отворен код, оптимизирани за решения на AMD, в AMD хъба на Hugging Face.

Освен това AMD разкри, че по-късно тази година официалната поддръжка за AMD ROCm ще започне да се разпространява за избрани AMD RDNA 3-базирани графични процесори. Официалната поддръжка за RDNA 3-базирани GPU върху Linux се планира да започне да се разпространява тази есен, като се започне с 48GB Radeon PRO W7900 и 24GB Radeon RX 7900 XTX картите, и постепенно се пускат разширени възможности за да други графични карти.