Om de beveiliging van open source kunstmatige-intelligentiemodellen te verbeteren en hun veilige toepassingen te promoten, heeft NVIDIA zich aangesloten bij meer dan twintig industriële reuzen, waaronder Microsoft, Adobe, IBM, Red Hat, SpaceX, OpenClaw en Palantir, om vandaag officieel de oprichting van de "Open Secure AI Alliance" aan te kondigen.
De alliantie wil voortbouwen op het Akrites-project van de Linux Foundation en OpenSSF (Open Source Supply Chain Security Foundation), waarbij gebruik wordt gemaakt van open technologieën om gerelateerde beveiligingskwetsbaarheden proactief te ontdekken, patchen en openbaar te maken.
In haar verklaring vermeldde Nvidia specifiek het recente cybersecurity-incident bij Hugging Face. Bij dit incident waren gesloten AI-tools niet in staat het gedrag van aanvallers en verdedigers nauwkeurig van elkaar te onderscheiden, waardoor kritische omgekeerde analyse en bewijsverzameling werden geblokkeerd. Geconfronteerd met dit dilemma, heeft Hugging Face het open source gewichtsmodel GLM 5.2 op zijn eigen infrastructuur geïmplementeerd en uitgevoerd, met succes meer dan 17.000 operaties geanalyseerd en de verspreiding van de inbreuk snel afgeremd.
NVIDIA wees erop dat dit incident een kritische technologische realiteit aan het licht bracht: wanneer netwerkverdedigers niet zelfstandig de allernieuwste AI op hun eigen infrastructuur kunnen beoordelen, afstemmen en uitvoeren, zullen hun capaciteiten voor noodreacties op kritieke momenten zwaar op de proef worden gesteld. Daarom hebben de industrie en de samenleving dringend behoefte aan open en controleerbare, geavanceerde defensie-instrumenten om een solide beveiligingssysteem op te bouwen in een ecosysteem met meerdere leveranciers en om single points of Failure te voorkomen.
De kernmissie van de Open Security AI Alliance is ervoor te zorgen dat verdedigers van cyberbeveiliging over de hele wereld toegang hebben tot en controle hebben over vertrouwde, geavanceerde open source-tools. De alliantie benadrukt dat het toekomstige veiligheidsecosysteem een diepgaande samenwerking vereist tussen geavanceerde gesloten modellen en open source-modellen, die niet alleen een flexibele selectie van tools bieden, maar ook zorgen voor transparantie, aanpassingsvermogen en soevereine controle in veiligheidsgevoelige scenario's.