Op 12 november, Beijing-tijd, meldde de Financial Times dat Amazon zich voorbereidt op de lancering van zijn nieuwste AI-chip, omdat de technologiegigant hoopt rendement te halen uit zijn miljarden dollars aan investeringen in halfgeleiders en zijn afhankelijkheid van marktleider Nvidia te verminderen. Momenteel is Amazon van plan om het grootste deel van zijn totale uitgaven van ongeveer 75 miljard dollar in 2024 te besteden aan technologische infrastructuur.

Het Amazon AI-chipproject is gelanceerd

Leidinggevenden bij de cloud computing-divisie van Amazon geven veel geld uit aan het kopen en aanpassen van chips in de hoop de efficiëntie van de tientallen datacenters te verbeteren en uiteindelijk de kosten voor zichzelf en Amazon Web Services-klanten te verlagen. Het project wordt geleid door chipstartup Annapurna Labs, dat in 2015 door Amazon werd overgenomen voor $350 miljoen. De nieuwste resultaten van Annapurna zullen naar verwachting worden getoond wanneer Amazon's "Trainium 2" volgende maand in de verkoop gaat.

Trainium2 maakt deel uit van Amazon's AI-chipsfamilie (die de grootste modellen traint). Trainium2 wordt al getest door Anthropic, Deutsche Telekom en andere bedrijven. Amazon en Annapurna willen concurreren met Nvidia Dave Brown, vice-president van computer- en netwerkdiensten bij Amazon, zei dat hij hoopt de beste plek te worden om Nvidia te runnen. Maar in de tussentijd zou het nuttig zijn om alternatieve chips voor Nvidia te ontwikkelen.

Amazon investeert zwaar in de ondersteuning van de bouw van AI-infrastructuur


Gadi Hutt, senior directeur bedrijfsontwikkeling, met een Tranium-chip in zijn hand

"Als het gaat om machinaal leren en kunstmatige intelligentie, is cloud computing vaak veel duurder", aldus Brown. "Als je 40% van $1.000 bespaart, heeft dat niet echt invloed op je keuze. Maar als je 40% van tientallen miljoenen dollars bespaart, dan wel."

Amazon verwacht momenteel dat de kapitaaluitgaven in 2024 ongeveer 75 miljard dollar zullen bedragen, waarvan het grootste deel zal worden besteed aan technologische infrastructuur. Bij de laatste winstoproep van het bedrijf zei CEO Andy Jassy dat hij verwachtte dat het bedrijf in 2025 meer geld zou investeren. De grootste cloudproviders, waaronder Microsoft en Google, investeren zwaar in AI, en het momentum vertoont weinig tekenen van afname. Amazon, Microsoft en Meta zijn allemaal grote klanten van Nvidia, maar ontwerpen ook eigen datacenterchips om een ​​aandeel te krijgen in de AI-golf. "Iedereen, van OpenAI tot Apple, wil zijn eigen chips bouwen", merkte Newman van FuturumGroup op, terwijl ze op zoek zijn naar "lagere productiekosten, hogere marges, grotere bruikbaarheid en meer controle."

De AI-infrastructuur van Amazon vereist dat alles vanaf de basis wordt opgebouwd, van het silicium tot de serverracks waarin ze zijn geïnstalleerd, allemaal ondersteund door de eigen software en architectuur van Amazon. "Het is moeilijk om dit op de schaal te doen die wij doen. Niet veel bedrijven kunnen het", zegt Sinno, technisch directeur van Annapurna.

De AI-chipblauwdruk van Amazon

Na te zijn begonnen met het bouwen van een beveiligingschip genaamd Nitro voor Amazon, heeft Annapurna verschillende generaties Arm-gebaseerde Graviton centrale processors ontwikkeld die alternatieven met een lager energieverbruik bieden voor traditionele serverwerkpaarden die worden aangeboden door Intel of Amazon. TechInsights-analist GDan Hutcheson zei: "Het grootste voordeel voor Amazon is dat hun chips minder energie verbruiken en dat het datacenter mogelijk energiezuiniger is, waardoor de kosten worden verlaagd." Hij zei dat als Nvidia's grafische verwerkingseenheid wordt vergeleken met een krachtig hulpmiddel voor algemene doeleinden (in het geval van auto's, zoals een stationwagen of stationwagen), Amazon zijn chips kan optimaliseren voor specifieke taken en diensten, net als een compacte auto of hatchback.

Wat de ruwe prestaties van de chips van Amazon versus die van Nvidia betreft, vermijdt Amazon directe vergelijkingen en onderwerpt zijn chips niet aan onafhankelijke prestatiebenchmarks.

Patrick Moorhead, een chipconsulent bij Chip Consulting, zei: "Mensen waarderen alle innovatie die Nvidia brengt, maar niemand wil dat Nvidia 90% van het marktaandeel bezet", voegde hij eraan toe. "Dit zal niet lang duren."