Nu MediaTek officieel deelneemt aan het TPU-project van de achtste generatie van Google, wordt zijn rol in het kunstmatige-intelligentie-ecosysteem voortdurend versterkt, waardoor de technologische accumulatie en marktinvloed op het gebied van op maat gemaakte chipoplossingen verder worden geconsolideerd.CEO van MediaTek, Cai Lixing, ging onlangs tijdens een openbaar evenement systematisch in op de vier grote technische uitdagingen waarmee de XPU-ontwikkeling wordt geconfronteerd, waarbij rekenkracht, geheugenknelpunten, interconnect-efficiëntie en geavanceerde verpakkingstechnologie aan bod kwamen.
in,Geheugen is een sleutelvariabele geworden die de systeemprestaties en de kostenstructuur beïnvloedt. Het is momenteel goed voor maximaal 50% van de XPU-materiaallijst, wat de beslissende rol van geheugen in de kosten en prestaties van de algehele oplossing benadrukt.
Cai Lixing wees erop dat, hoewel AI-trainingstaken nog steeds voornamelijk afhankelijk zijn van HBM (geheugen met hoge bandbreedte), AI-redeneringen, naarmate de marktvraag geleidelijk evolueert naar maatwerk en krachtige redeneringen, de volgende belangrijke groeimotor aan het worden zijn.
Onder deze trend wordt verwacht dat DDR DRAM op grotere schaal zal worden gebruikt in inferentiescenario's vanwege de hogere dichtheid en kosteneffectiviteit, terwijl SRAM zal worden gereserveerd voor specifieke selectieve scenario's. Dit heeft er ook toe geleid dat geheugengiganten zoals SK Hynix en Samsung de lay-out van gerelateerde technologieën hebben versneld.
Onder hen heeft SK hynix een multidimensionale lay-out gelanceerd rond de productlijn van de "AI-N" -serie, met "AI-N P" (prestaties), "AI-N B" (bandbreedte) en "AI-N D" (dichtheid) als de drie belangrijkste technische richtingen.Ze komen overeen met SLC NAND-flashgeheugenoplossingen, flashgeheugen met hoge bandbreedte (HBF) in samenwerking met NVIDIA, en datacenteroplossingen voor vereisten met grote capaciteit en laag energieverbruik, waarbij wordt gestreefd naar gedifferentieerde technische ondersteuning in de context van de groeiende AI-inferentiebelasting.
Samsung zet zijn opzet voort op het gebied van in-memory computing. Al in 2021 lanceerde Samsung de eerste HBM in de branche met geïntegreerde AI-verwerkingsmogelijkheden: HBM-PIM, die tot 1,2 TFLOPS aan ingebedde rekenkracht biedt, waardoor de geheugenchip zelf bepaalde taken van de CPU, GPU, ASIC of FPGA kan uitvoeren. Recent nieuws heeft erop gewezen dat Samsung zich opnieuw richt op onderzoek en ontwikkeling op het gebied van PIM-technologie, met de bedoeling deze te promoten om geleidelijk de traditionele HBM-architectuur in toekomstige AI-toepassingen te vervangen.
