Ускорителите AMD Instinct MI300X влизат в инфраструктурата на Oracle Cloud за интензивни AI приложения
— Клиенти като Fireworks AI разчитат на новите изчислителни мощности на Oracle Cloud Infrastructure (OCI) --
— OCI Supercluster е водеща структура между доставчиците на облачни решения, използвайки 16 384 AMD Instinct MI300X GPU в една ултра бърза мрежова тъкан --
Санта Клара, Калифорния, САЩ – 26 септември 2024 г. -- AMD (NASDAQ: AMD) днес съобщи, че Oracle Cloud Infrastructure (OCI) е избрала ускорителите AMD Instinct™ MI300X с отворен софтуер ROCm™, за да изгради най-новия си OCI Compute Supercluster, наречен BM.GPU.MI300X.8. За AI модели, които могат да съдържат стотици милиарди параметри, OCI Supercluster с AMD MI300X поддържа до 16 384 графични процесора в един клъстер чрез използване на същата ултра бърза мрежова технология, използвана от други ускорители в OCI. Проектирани да изпълняват взискателни AI работни натоварвания, включително големи езикови модели (LLM) и обучение, което изисква висока пропускателна способност с водещ капацитет на паметта, тези „bare metal“ инстанции на OCI вече са възприети от компании като Fireworks AI.
„AMD Instinct MI300X и ROCm отвореният софтуер продължава да набира скорост като надеждни решения за най-критичните AI работни натоварвания на OCI“, каза Андрю Дикман, корпоративен вицепрезидент и генерален мениджър, Data Center GPU Business, AMD. „Тъй като тези решения се разширяват допълнително към нарастващи пазари с интензивно използване на AI, комбинацията ще бъде от полза за клиентите на OCI с висока производителност, ефективност и по-голяма гъвкавост на системния дизайн.“
„Възможностите на ускорителите AMD Instinct MI300X добавят към широкия избор на OCI от високопроизводителни „bare metal“ инстанции, за да премахнат излишните разходи за виртуализирани изчисления, които обикновено се използват за AI инфраструктура“, каза Доналд Лу, старши вицепрезидент, разработка на софтуер, Oracle Cloud Infrastructure. „Развълнувани сме да предложим по-голям избор за клиенти, които искат да ускорят AI задачите си на конкурентна цена.“
Висока производителност и отворен избор за AI обучения и работни задачи
AMD Instinct MI300X премина през обширни тестове, които бяха валидирани от OCI, и подчертаха възможностите на ускорителя за AI задачи и обучение, за обслужване на случаи с оптимално забавяне, дори при по-големи обеми на данните, и способността да се поберат най-големите LLM модели в един възел. Тези резултати от производителността на Instinct MI300X привлякоха вниманието на разработчиците на AI модели.
Fireworks AI предлага бърза платформа, предназначена за изграждане и внедряване на генеративни AI репения. С над 100+ модела, Fireworks AI се възползва от предимствата на производителността, открита в OCI, използвайки AMD Instinct MI300X.
„Fireworks AI помага на предприятията да изграждат и внедряват комбинирани AI системи в широк спектър от индустрии и случаи на употреба“, каза Лин Цяо, главен изпълнителен директор на Fireworks AI. „Количеството памет, налично на AMD Instinct MI300X и отворения софтуер ROCm ни позволява да разширяваме услугите за нашите клиенти, тъй като моделите продължават да растат."
