AMD zvanično lansirao Instinct MI300 AI akceleratore za Data Centre i ROCm 6 softverski paket

AMD-u je na specijalno organizovanom „Advancing_AI“ događaju ugostio lidere industrije, uključujući Microsoft, Meta, Oracle, Dell Technologies, HPE, Lenovo, Supermicro, Broadcom i Cisco, da pokažu kako ove kompanije sarađuju sa AMD-om na isporuci naprednih AI rešenja koja se protežu od cloud-a do preduzeća i računara. AMD je na „Advancing_A“ događaju lansirao više novih proizvoda, uključujući AMD Instinct MI300 seriju AI akceleratora za Data Centre, ROCm 6 otvoreni softverski paket sa značajnim optimizacijama i novim funkcijama koje podržavaju modele velikih jezika (LLM) i Ryzen 8040 seriju procesora sa Ryzen AI.

„AI je budućnost računarstva i AMD je na jedinstvenoj poziciji da pokreće infrastrukturu od kraja do kraja koja će definisati ovu AI eru, od masivnih instalacija u oblaku do poslovnih klastera i inteligentnih ugrađenih uređaja i računara s AI-om“, rekla je predsednica i AMD-ov CEO dr Lisa Su. „Vidimo veoma veliku potražnju za našim novim Instinct MI300 GPU-ovima, koji su akceleratori najvećih performansi na svetu za generativnu AI. Takođe ubrzavamo značajan zamah za naše AI rešenja za Data Centre sa najvećim kompanijama u cloud-u, vodećim dobavljačima servera u industriji i najinovativnijim AI startupovima sa kojima blisko sarađujemo kako bismo brzo predstavili Instinct MI300 rešenja na tržištu koja će dramatično ubrzati tempo inovacija u celokupnom AI ekosistemu“.

Unapređenje AI centara podataka od oblaka do poslovnih Data Centara i superračunara

AMD-u se pridružilo više partnera tokom događaja kako bi istakli snažno usvajanje i rastući zamah za AMD Instinct Data Centar AI akceleratore.

• Microsoft je detaljno opisao kako implementira AMD Instinct MI300X akceleratore za pokretanje nove Azure ND MI300x v5 serije virtuelnih mašina (VM) optimizovanih za AI radna opterećenja.
• Meta je istakla da kompanija dodaje AMD Instinct MI300X akceleratore u svoje centre podataka u kombinaciji sa ROCm 6 kako bi pokretala radna opterećenja inferencije AI i prepoznala ROCm 6 optimizacije koje je AMD uradio na porodici modela Llama 2.
• Oracle je predstavio planove za ponudu OCI računarskih rešenja koja sadrže AMD Instinct MI300X akceleratore, kao i planove da uključi AMD Instinct MI300X akceleratore u svoju nadolazeću generativnu uslugu AI.
• Najveći provajderi infrastrukture data centara najavili su planove za integraciju AMD Instinct MI300 akceleratora u svoje portfelje proizvoda. Dell je najavio integraciju AMD Instinct MI300X akceleratora sa njihovim PowerEdge XE9680 serverskim rešenjem kako bi pružio revolucionarne performanse za generativna AI radna opterećenja u modularnom i skalabilnom formatu za klijente. HPE je najavio planove da uvede AMD Instinct MI300 akceleratore u svoje poslovne i HPC ponude. Lenovo je podelio planove da uvede AMD Instinct MI300X akceleratore na Lenovo ThinkSystem platformu kako bi isporučio AI rešenja u svim industrijama, uključujući maloprodaju, proizvodnju, finansijske usluge i zdravstvenu zaštitu. Supermicro je najavio planove da ponudi AMD Instinct MI300 GPU u svom portfelju AI rešenja. Asus, Gigabyte, Ingrasys, Inventec, QCT, Wistron i Wiwynn takođe planiraju da ponude rešenja zasnovana na AMD Instinct MI300 akceleratorima.
• Specijalizirani dobavljači AI cloud rešenja, uključujući Aligned, Arkon Energy, Cirrascale, Crusoe, Denvr Dataworks i Tensorwaves planiraju da pružaju ponude koje će proširiti pristup AMD Instinct MI300X GPU-ovima za programere i AI startupove.

Dovođenje otvorene, dokazane i spremne AI softverske platforme na tržište

AMD je istakao značajan napredak u širenju softverskog ekosistema koji podržava AMD Instinct Data Centar akceleratore.

• AMD je predstavio najnoviju verziju softverskog paketa otvorenog koda za AMD Instinct GPU, ROCm 6, koji je optimizovan za generativnu veštačku inteligenciju, posebno za velike jezičke modele. ROCm 6 se može pohvaliti podrškom za nove tipove podataka, napredne optimizacije grafova i kernela, optimizovane biblioteke i najsavremenije algoritme pažnje, koji zajedno sa MI300X isporučuju oko 8x povećanje performansi za ukupno kašnjenje u generisanju teksta na Llama 2 u poređenju sa ROCm 5 koji radi na MI250.
• Databricks, Essential AI i Lamini, tri AI startupa koji grade nove modele i AI rešenja, pridružili su se AMD-u na pozornici kako bi razgovarali o tome kako koriste AMD Instinct MI300X akceleratore i otvoreni ROCm 6 softverski paket za isporuku diferenciranih AI rešenja za poslovne korisnike.
• OpenAI dodaje podršku za AMD Instinct akceleratore u Triton 3.0, pružajući gotovu podršku za AMD akceleratore koji će omogućiti programerima da rade na višem nivou apstrakcije na AMD hardveru.

Kontinuirano vođstvo u unapređenju AI na PC-u

Sa milionima do sada isporučenih računara sa veštačkom inteligencijom, AMD je najavio nove vodeće mobilne procesore lansiranjem najnovije AMD Ryzen 8040 serije procesora koji pružaju još više AI računarskih sposobnosti. AMD je takođe lansirao Ryzen AI 1.0 – softverski paket koji omogućava programerima da lako implementiraju aplikacije koje koriste unapred obučene modele za dodavanje AI mogućnosti za Windows aplikacije. AMD je takođe otkrio da će nadolazeća generacija „Strix Point“ APU-a, planirana za lansiranje 2024. godine, uključivati arhitekturu XDNA 2 koja će isporučiti više od 3x povećanja performansi AI računara u odnosu na prethodnu generaciju što će omogućiti nova generativna AI iskustva. Microsoft se takođe pridružio kako bi razgovarali o tome kako blisko sarađuju sa AMD-om na budućim AI iskustvima za Windows računare.