Meta heeft aangekondigd dat het een nieuwe oplossing voor geheugenhergebruik heeft geïmplementeerd in zijn datacenterinfrastructuur. Via de zelf ontwikkelde aangepaste chip "Vistara" zal het de DDR4-geheugensticks in gepensioneerde servers verbinden met de nieuwe generatie servers die afhankelijk zijn van DDR5-geheugen, waardoor kostenbesparingen en hergebruik van hulpbronnen worden gerealiseerd in de context van hoge mondiale hardwareprijzen en geheugentekorten op de lange termijn.

De mondiale prijzen voor geheugen en andere hardwarecomponenten zijn de afgelopen periode blijven stijgen. Zelfs grote technologiebedrijven met een enorme koopkracht zijn begonnen met het zoeken naar efficiëntere manieren om de kapitaaluitgaven onder controle te houden. Meta's aanpak is een poging in deze omgeving.

Volgens de huidige exploitatie- en onderhoudscyclus van Meta worden de servers doorgaans elke drie tot vijf jaar vervangen, maar de werkelijke levensduur van de geheugenmodules daarin kan doorgaans zeven tot tien jaar bedragen. Dit heeft tot gevolg dat wanneer de server buiten gebruik wordt gesteld, de DDR4-geheugenmodules die nog intact en bruikbaar zijn, offline moeten worden gehaald, met veel verspilling tot gevolg. Om dit ‘life mismatch’-probleem op te lossen, heeft Meta de Vistara-chip ontworpen, zodat oud geheugen op nieuwe platforms kan blijven functioneren, waardoor de levenscyclus van de hardware wordt verlengd en de algehele TCO wordt geoptimaliseerd.

Volgens technische papieren informatie die aan de brancheconferentie ISCA is bekendgemaakt, is Vistara een aangepaste ASIC-chip die DDR4-geheugen verbindt met nieuwe generatie processors op de PCIe Gen5 x16-bus via de CXL 2.0/1.1-interface. Bij specifieke implementaties verwijdert Meta DDR4-geheugensticks van buiten gebruik gestelde servers en installeert deze in gespecialiseerde eenheden, intern bekend als "MemServers". Elke MemServer is geconfigureerd met ongeveer 768 GB DDR5-geheugen en ongeveer 256 GB gerecycled DDR4-geheugen. Het besturingssysteem behandelt deze DDR4 als extra geheugenknooppunten. Wanneer de belangrijkste DDR5-bronnen krap worden, kan het systeem dit uitgebreide geheugen plannen en gebruiken.

Meta zei dat kant-en-klare CXL-hardwareoplossingen niet aan deze vraag kunnen voldoen, omdat de gebruikelijke CXL-interfaces op de markt de controller meestal voorzien van een eigen geheugen, waardoor het moeilijk wordt om oude DDR4-splinters uit verschillende bronnen in te voegen. Het ontwerp van Vistara ontkoppelt opzettelijk de controller van het geheugen, waardoor de controller onafhankelijk kan bestaan, waardoor Meta indien nodig bestaande DDR4-geheugenbronnen kan invoegen om een ​​zeer flexibele architectuur voor geheugenhergebruik te bereiken.

Op schaalniveau is Meta van plan deze nieuwe architectuur in te zetten in zijn hyperscale-infrastructuur die uit miljoenen servers bestaat, met name in de datacenters die zijn kunstmatige-intelligentieactiviteiten ondersteunen. Terwijl het bedrijf blijft investeren in gebieden als generatieve AI, inclusief de wijdverbreide inzet van nieuwe modellen met inferentie- en multimodale mogelijkheden zoals Muse Spark, blijven de geheugen- en rekenkrachtvereisten van deze AI-datacenters groeien. Door DDR4-geheugen te hergebruiken, wordt verwacht dat dit de algehele efficiëntie zal verbeteren en tegelijkertijd de prestaties zal garanderen.

Opgemerkt moet worden dat Meta niet volledig afhankelijk zal zijn van "teruggewonnen" geheugen, en dat nieuw aangeschafte DDR5 en andere hardware nog steeds een belangrijke rol zullen spelen in de infrastructuur. In ultra-grootschalige datacenterscenario's is zelfs het gebruik van hergebruikte DDR4-geheugenmodules voor een deel van de werklast echter voldoende om aanzienlijke kostenbesparingen op de lange termijn te realiseren en de verspilling van hulpbronnen als gevolg van het slopen van hardware te verminderen.