Dinsdagavond deelde Microsoft Azure een interessant beeld op zijn sociale mediaplatform
Microsoft is een van de grootste klanten van Nvidia en het bedrijf ontvangt vaak producten van de eerste keer en integreert deze in cloud computing en bedrijfsinfrastructuur. Zelfs Nvidia zal luisteren naar feedback van bedrijven als Microsoft bij het ontwerpen van toekomstige producten, vooral producten zoals het nu geannuleerde NVL36x2-systeem. De onderstaande afbeelding toont een enorm cluster dat het rekengebied grofweg in een derde van het gehele systeem verdeelt en tweederde van het systeem besteedt aan vloeistofkoeling met gesloten lus.
Het hele systeem maakt gebruik van Infiniband-netwerken, de standaard voor GPU-versnelde systemen vanwege de lage latentie van pakketoverdracht. Hoewel de details van het systeem een beetje onduidelijk zijn, kunnen we zien dat een geïntegreerd vloeistofkoelsysteem met gesloten lus ervoor zorgt dat het GPU-rack in een 1U-vormfactor kan worden geleverd voor een grotere dichtheid.
Aangezien deze systemen in het bredere Microsoft Azure-datacenter zullen worden geplaatst, moeten de systemen gemakkelijk te onderhouden en te koelen zijn. De datacenters van Microsoft zijn beperkt in de stroom- en warmteafgifte die ze aankunnen, dus dit soort systemen zijn doorgaans ontworpen om te voldoen aan de interne specificaties die door Microsoft zijn ontworpen. Natuurlijk zijn er systemen met meer rekenkracht, zoals NVIDIA's NVL72, maar hyperscalers zouden over het algemeen andere maatwerkoplossingen moeten kiezen die passen bij de specificaties van hun datacenter.
Ten slotte merkte Microsoft op dat we tijdens de komende Microsoft Ignite-conferentie in november meer details kunnen verwachten en meer kunnen leren over het GB200-aangedreven AI-systeem.