Investeringsbank Bernstein heeft onlangs een rapport uitgebracht waarin staat dat wanneer NVIDIA's Vera Rubin kunstmatige intelligentie-chip van de volgende generatie in 2027 een grootschalige verzendcyclus ingaat, de prijs van geheugen met hoge bandbreedte (HBM4) aanzienlijk zal stijgen, waardoor de kosten van het hele kastsysteem zullen stijgen. Het bureau voorspelt dat de totale prijs van de Nvidia Vera Rubin NVL72-kast die wordt gebruikt voor AI-computerclusters ongeveer 9,1 miljoen dollar kan bedragen, waarvan de opslag- en geheugenonderdelen alleen al ongeveer 3,2 miljoen dollar aan uitgaven kunnen uitmaken. Deze laatste schatting is aanzienlijk hoger dan de eerdere prijsvoorspelling voor afzonderlijke containers van ongeveer 7,8 miljoen dollar van Morgan Stanley.
Eerder wees Morgan Stanley er in een onderzoeksrapport over Nvidia's Rubin NVL72-kast op dat de totale prijs van het systeem ongeveer 7,8 miljoen dollar bedroeg, waarvan de externe opslag- en geheugenchips die in de kast waren geïnstalleerd ongeveer 2 miljoen dollar kostten. Op basis hiervan werd geschat dat de gerelateerde geheugenuitgaven jaar-op-jaar met ongeveer 435% waren toegenomen. Het is vermeldenswaard dat de door Morgan Stanley aangehaalde gegevens voornamelijk betrekking hebben op andere geheugencomponenten dan GPU's en niet volledig de kostenstructuur weerspiegelen van geheugen met hoge bandbreedte in het gehele Vera Rubin NVL72-systeem.
Bernstein is van mening dat de huidige algemene marktverwachtingen voor Vera Rubin-gerelateerde geheugenprijzen "achterhaald" zijn, vooral in termen van HBM-prijsaannames. Het bureau berekende dat als het nog steeds wordt berekend op basis van de HBM4-prijs van ongeveer 16,6 dollar per GB, de totale prijs van de NVL72-kast grofweg in de buurt van het eerder door Morgan Stanley opgegeven bereik kan vallen. Bernstein benadrukte echter dat deze prijsklasse niet langer de nieuwste markttrends weerspiegelt. Zijn basisoordeel voor 2027 is dat de prijs van HBM4 zal stijgen tot ongeveer 53 dollar per GB, een stijging van meer dan drie keer.
Op deze basis heeft Bernstein de kosten van de opslag- en geheugenonderdelen van de NVL72-kast opnieuw geschat, in de overtuiging dat de daarmee samenhangende uitgaven verder zullen stijgen van het door Morgan Stanley aangenomen niveau van 2 miljoen dollar tot ongeveer 3,2 miljoen dollar, waardoor de totale prijs van de hele kast op ongeveer 9,1 miljoen dollar. Het bureau wees er ook op dat de kostenaannames die impliciet waren in sommige eerdere berekeningen meer gebaseerd waren op historische prijsgegevens en niet volledig de meest recente vraag- en aanbodsituatie weerspiegelden tijdens de grootschalige bouwcyclus van AI.
Bernstein voorspelt ook dat Nvidia de neiging zal hebben om de prijsstijgingsdruk rechtstreeks door te geven aan downstream-klanten wanneer zij te maken krijgt met stijgende kosten voor belangrijke componenten zoals HBM4. In de huidige context van voortdurende opwarming van de constructie van AI-infrastructuur en een krap aanbod van hoogwaardig geheugen, worden geheugen- en opslagcomponenten met hoge bandbreedte een andere belangrijke beperking na de geavanceerde productiecapaciteit voor verpakkingen. Uit het oordeel van de bank blijkt dat het gewicht van de geheugenkosten aanzienlijk zal stijgen in de prijs van het hele kabinet rond de nieuwe generatie AI GPU-platforms zoals Vera Rubin, waardoor de algehele investeringsdrempel voor grootschalige AI-clusters verder zal stijgen.