NVIDIA heeft onlangs officieel CUDA 13.1 gelanceerd, dat door de functionaris werd gepositioneerd als "de grootste en meest uitgebreide upgrade sinds de geboorte van het CUDA-platform in 2006."Het belangrijkste hoogtepunt van deze update is de introductie van het revolutionaire CUDA Tile-programmeermodel, waarmee het GPU-programmeerparadigma een nieuwe, hogere abstractiefase ingaat.
Traditionele GPU-programmering is gebaseerd op de SIMT-modus (Single Instruction Multi-Threading), en ontwikkelaars moeten aandacht besteden aan details op laag niveau, zoals threads, geheugen en synchronisatie.
CUDA Tile is een op tegels (tegel, datablok) gebaseerd model. Ontwikkelaars kunnen zich nu concentreren op het organiseren van gegevens in blokken en het uitvoeren van berekeningen op deze gegevensblokken.Het onderliggende complexe werk van threadplanning, geheugenindeling en toewijzing van hardwarebronnen wordt automatisch afgehandeld door de compiler en runtime.
Om Tile-programmering te ondersteunen, introduceerde CUDA 13.1 de virtuele instructieset (Tile IR) en bracht de cuTile-tool uit waarmee ontwikkelaars Python konden gebruiken om op Tile gebaseerde GPU-kernel te schrijven.
Dit verlaagt de drempel voor GPU-programmering aanzienlijk, waardoor datawetenschappers en onderzoekers die niet bekend zijn met traditionele CUDA C/C++ of onderliggende SIMT-modellen GPU-versnelde code kunnen schrijven.
Tegelprogrammering vervangt SIMT niet, maar biedt een naast elkaar bestaand alternatief pad. Ontwikkelaars kunnen flexibel het meest geschikte programmeermodel kiezen op basis van specifieke toepassingsscenario's.
Het belang van CUDA 13.1 ligt niet alleen in het toevoegen van nieuwe functies of het optimaliseren van de prestaties, maar ook in het leggen van de basis voor het bouwen van een nieuwe generatie hoogwaardige, architectuuroverschrijdende GPU-computerbibliotheken en -frameworks. Door Tile IR en abstractie op hoog niveau te introduceren, heeft NVIDIA een dikkere middenlaag toegevoegd tussen hardware en software.
In het verleden vertrouwden concurrenten (zoals AMD's ROCm en Intel's OneAPI) voornamelijk op de compatibiliteitslaag voor CUDA-codevertaling, maar voor het nieuwe, hogere abstractiemodel van CUDA Tile is eenvoudige codevertaling niet langer voldoende.
Concurrenten moeten even intelligente compilers bouwen om met Tile IR om te gaan, wat ongetwijfeld de moeilijkheid van de technologische afstemming vergroot en objectief gezien de plakkerigheid en gebruikersvergrendeling van het CUDA-ecosysteem verder vergroot.
