Meta, OpenAI en Microsoft zeiden op een AMD-conferentie dat ze gebruik gaan maken van AMD's nieuwste AI-chip InstinctMI300X. Het is het grootste teken tot nu toe dat technologiebedrijven op zoek zijn naar alternatieven voor dure grafische processors van Nvidia, die van cruciaal belang zijn voor het maken en implementeren van kunstmatige intelligentieprogramma's zoals ChatGPT van OpenAI.
Als de nieuwste high-end chips van AMD voldoende zijn om te voldoen aan de behoeften van technologiebedrijven en cloudserviceproviders die AI-modellen bouwen en onderhouden wanneer ze begin volgend jaar op de markt komen, zou dit de kosten voor het ontwikkelen van AI-modellen kunnen verlagen en concurrentiedruk kunnen uitoefenen op de stijgende groei van de verkoop van AI-chips door Nvidia.
"Alle belangstelling gaat uit naar grote processors en grote GPU's voor cloud computing", zei AMD-topman Lisa Su woensdag.
AMD zegt dat de MI300X is gebaseerd op een nieuwe architectuur die doorgaans resulteert in aanzienlijke prestatieverbeteringen. Het meest opvallende kenmerk is het geavanceerde, krachtige HBM3-geheugen van 192 GB, dat gegevens sneller overdraagt en plaats biedt aan grotere kunstmatige-intelligentiemodellen.
Tijdens een analistenevenement op woensdag vergeleek CEO Lisa Su de InstinctMI300X en het systeem dat het bouwt rechtstreeks met Nvidia's primaire AI GPU, de H100.
"Deze prestatie vertaalt zich direct in een betere gebruikerservaring", aldus Su. "Als je een verzoek aan het model indient, wil je dat het sneller reageert, vooral omdat het antwoord complexer wordt."
De belangrijkste vraag waar AMD voor staat is of het bedrijf, dat altijd gebaseerd is op Nvidia, de tijd en het geld zal investeren om er nog een GPU-leverancier aan toe te voegen. "Het adopteren van AMD vergt nog steeds inspanning", zei Su Zifeng.
AMD vertelde investeerders en partners dat het zijn softwarepakket, genaamd ROCm, heeft verbeterd om te kunnen concurreren met Nvidia's industriestandaard CUDA-software, waarmee een belangrijk probleem wordt aangepakt dat een van de belangrijkste redenen is geweest waarom AI-ontwikkelaars momenteel de voorkeur geven aan Nvidia.
Prijs is ook belangrijk - AMD heeft woensdag de prijs van MI300X niet bekendgemaakt, maar de chips van Nvidia kosten ongeveer $ 40.000. Su Zifeng vertelde verslaggevers dat om klanten te overtuigen om te kopen, de chips van AMD lagere aanschaf- en bedrijfskosten moeten hebben dan die van Nvidia.
AMD zei dat het overeenkomsten heeft getekend om de chip te gebruiken met een aantal van de bedrijven die het meest behoefte hebben aan GPU's. Meta en Microsoft zijn de twee grootste kopers van Nvidia H100 GPU's in 2023, volgens een recent rapport van onderzoeksbureau Omidia.
Meta zei dat het de InstinctMI300X GPU zal gebruiken om AI-inferentiewerklasten af te handelen, zoals het verwerken van AI-stickers, beeldbewerking en bedieningsassistenten. Microsoft Chief Technology Officer Kevin Scott zei dat Microsoft de MI300X-chip zal gebruiken via Azure-netwerkdiensten. De cloud computing van Oracle zal deze chip ook gebruiken.
OpenAI zei dat het de GPU's van AMD zal ondersteunen in een softwareproduct genaamd Triton. Triton is geen groot taalmodel zoals GPT, maar wordt gebruikt in onderzoek naar kunstmatige intelligentie.
AMD heeft de grootschalige verkoop van de chip nog niet voorspeld, maar verwacht slechts een totale GPU-omzet uit datacenters van ongeveer $2 miljard in 2024. Alleen al in het meest recente kwartaal bedroeg de omzet van Nvidia's datacenters $14 miljard, hoewel dat cijfer naast GPU's ook andere chips omvat.
AMD zei echter dat de totale markt voor AI GPU's de komende vier jaar zou kunnen stijgen tot 400 miljard dollar, een verdubbeling van de eerdere voorspelling van het bedrijf, een teken van hoe hoog de verwachtingen zijn voor high-end AI-chips en waarom het bedrijf nu de aandacht van investeerders vestigt op zijn productlijn. Su Zifeng vertelde verslaggevers ook dat AMD niet gelooft dat het Nvidia moet verslaan om goede resultaten op de markt te behalen.
Toen ze het had over de markt voor kunstmatige intelligentie-chips, zei ze tegen verslaggevers: "Ik denk dat het duidelijk is dat Nvidia nu de overgrote meerderheid moet bezetten." "Wij denken dat dit aantal in 2027 de 400 miljard dollar kan overschrijden. We kunnen daar een groot deel van krijgen."