In oktober 2024 hebben AMD en Intel gezamenlijk de x86 Ecosystem Advisory Group (x86 Ecosystem Advisory Group) opgericht om marktleiders samen te brengen om gezamenlijk de toekomst van x86-computerarchitectuur te promoten. Toen EAG werd opgericht, kondigde het vier kernfuncties aan: FRED, AVX10, ChkTag en ACE.Nu hebben AMD en Intel gezamenlijk het ACE-whitepaper uitgebracht, waarmee deze instructieset, bekend als de "x86 Standard Matrix Acceleration Architecture", officieel wordt gepromoot bij de ontwikkelaarsgemeenschap.
Het kerndoel van ACE is eenvoudig: het verbeteren van de matrixvermenigvuldigingsprestaties van x86-chips met ordes van grootte.
Matrixvermenigvuldiging is de basiscomputereenheid van neurale netwerken en grote taalmodellen. Hoewel bestaande SIMD-instructiesets zoals AVX10 matrixbewerkingen kunnen voltooien, zijn er duidelijke knelpunten in de rekendichtheid en schaalbaarheid.
Door een matrixversnellingsmechanisme te introduceren op basis van uiterlijke productbewerkingen, bereikt ACE een rekendichtheid die 16 maal groter is dan die van de equivalente AVX10-vermenigvuldig-accumuleerbewerking, terwijl dezelfde invoervector wordt gebruikt.
Wat betreft ondersteuning van dataformaten dekt ACE native de huidige mainstream nauwkeurigheidsnormen op AI-gebied, waaronder INT8, OCP FP8, OCP MXFP8, OCP MXINT8 en BF16.
Als uitgebreide instructieset van AVX10 is de ecologische aanpassing van de software van ACE al aan de gang. Deep Learning en onderliggende HPC-bibliotheken, wetenschappelijke computerbibliotheken van Python zoals NumPy en SciPy, en mainstream machine learning-frameworks zoals PyTorch en TensorFlow zijn allemaal begonnen met integratiewerk.
AMD en Intel benadrukten in het witboek dat het ontwerpconcept van ACE lage wrijving en een brede dekking is. Van notebooks tot supercomputers: ontwikkelaars hoeven de code voor verschillende hardwareplatforms niet te herschrijven.
Dit staat in schril contrast met de oplossing van het migreren van AI-computing naar speciale accelerators, wat vaak extra code-aanpassing en migratiekosten vereist.
