Tegen de achtergrond van de snelle uitbreiding van de werklasten van agent AI (Agentic AI), blijft de vraag naar hoge bandbreedte, hoge energie-efficiëntie en geheugen met grote capaciteit in datacenters enorm stijgen. LPDDR-geheugen wordt geleidelijk een belangrijk onderdeel van de nieuwe generatie AI-servers. De nieuwste trends in de branche laten zien dat de volgende generatie LPDDR6-standaard de capaciteit van één module zal vergroten tot 512 GB en de SOCAMM2-verpakkingsvorm zal ondersteunen, wat een hogere geheugendichtheid en betere energie-efficiëntie zal bieden voor toekomstige AI-training en gevolgtrekking.
Volgens de voorlopige specificaties van LPDDR6, gepubliceerd door JEDEC, is LPDDR6 gepositioneerd als de "belangrijkste" geheugenstandaard voor datacenters en zal de capaciteit en bandbreedte blijven toenemen terwijl de voordelen op het gebied van energieverbruik behouden blijven. LPDDR6 maakt gebruik van een smaller x6-interfaceontwerp met één chip, aangevuld met een niet-binaire interface en extra x6-subkanalen, waardoor een enkele DRAM-chip kan worden gestapeld om een hogere capaciteit te bereiken. De totale bandbreedte zal naar verwachting met ongeveer 10%-20% toenemen in vergelijking met de bestaande LPDDR5 / LPDDR5X, maar de ontwerpfocus ligt meer op uitbreiding van de dichtheid dan op extreme bandbreedte.
JEDEC verklaarde dat het zijn doel is om de capaciteit van de LPDDR6 SOCAMM2-module te vergroten tot 512 GB op basis van de bestaande LPDDR5X SOCAMM2-module van maximaal 256 GB om te voldoen aan de groeiende geheugenvereisten voor AI-training en gevolgtrekking. Tegenwoordig, nu de rekenkracht van datacenters blijft toenemen, is de geheugencapaciteit een van de belangrijkste knelpunten geworden die de trainingsschaal en de inferentiedoorvoer van grote modellen beïnvloeden. LPDDR6-modules met een hogere dichtheid kunnen een grotere effectieve geheugenpool vormen binnen een beperkte rackruimte.
Vanuit het perspectief van het tempo van de industriële implementatie hebben reguliere opslagfabrikanten zoals Samsung, SK Hynix en Micron eerder het commerciële tijdvenster voor LPDDR6 vastgesteld op 2028-2029. Gedreven door de sterke vraag van agent-gebaseerde AI verwacht de industrie echter over het algemeen dat gerelateerde producten en platforms eerder gelanceerd zullen worden. De LPDDR6- en SOCAMM2-technologiepaden die door JEDEC worden onthuld, worden ook beschouwd als belangrijke signalen die de weg vrijmaken voor een nieuwe generatie AI-serverplatforms.
Op het gebied van de ecologie van het serverplatform heeft NVIDIA de LPDDR5X SOCAMM2-oplossing toegepast op zijn CPU's uit de Vera-serie, terwijl AMD LPDDR5X heeft geïntroduceerd in de CPU's uit de Verano-serie die zijn geoptimaliseerd voor inferentiescenario's om de prestaties op rackniveau per watt te verbeteren. Met de vooruitgang van LPDDR6 verwacht de industrie dat fabrikanten zoals NVIDIA en AMD zullen upgraden naar LPDDR6 SOCAMM2-modules met een hogere dichtheid en energiezuiniger om grotere geheugenbandbreedte en capaciteitsredundantie te bieden voor toekomstige AI-fabrieken en inferentieclusters.
Het is vermeldenswaard dat de LPDDR6-PIM-technologie (Processing/Programming In Memory), die tegelijkertijd door JEDEC wordt gepromoot, de toepassingsgrenzen van LPDDR6 op het gebied van datacenters verder zal uitbreiden. Door de PIM-controller aan de geheugenkant te integreren, kan de LPDDR6-module een aantal computertaken lokaal uitvoeren en een deel van het gegevensverwerkingswerk van de CPU naar het geheugen overbrengen, wat naar verwachting de overhead voor gegevensverwerking zal verminderen en de algehele energie-efficiëntie zal verbeteren. In scenario's waarin AI-training en -inferentie sterk afhankelijk zijn van grootschalige matrixoperaties en tensoroperaties, wordt dit soort "geïntegreerde opslag- en berekenings" -technologie beschouwd als een belangrijke ontwikkelingsrichting om het stroomverbruik en bandbreedtemuren aan te pakken.
Vanuit het perspectief van energie-efficiëntiekenmerken staat de LPDDR-standaard altijd bekend om zijn lage spanning en laag stroomverbruik. Vergeleken met traditioneel DDR-geheugen voor servers kan het bij grootschalige inzet het totale energieverbruik van het datacenter aanzienlijk verminderen. JEDEC wees erop dat naarmate AI en indicatoren voor het energieverbruik van datacenters steeds meer worden gewaardeerd, LPDDR6 en het ondersteunende SOCAMM-pakket snel de aandacht trekken van cloudserviceproviders en klanten van hyperscale datacenters.
Over het geheel genomen wordt LPDDR6 beschouwd als een van de kerngeheugentechnologieën voor de volgende generatie AI-datacenters en zal er een piek in de vraag te zien zijn, aangedreven door agent-gebaseerde AI. Met een maximale modulecapaciteit van 512 GB, betere prestaties op het gebied van energieverbruik en innovatieve functies zoals PIM, wordt verwacht dat LPDDR6 de komende jaren de reguliere geheugenstandaard voor AI-serverplatforms zal worden, waardoor efficiëntere infrastructuurondersteuning wordt geboden voor training en gevolgtrekking van grote modellen.