Het kunstmatige-intelligentiebedrijf Anthropic heeft ermee ingestemd om aan de grote ministeries van Financiën en de centrale banken van verschillende landen de kwetsbaarheden op het gebied van de cyberbeveiliging van het mondiale financiële systeem te rapporteren die zijn ontdekt door zijn nieuwste kunstmatige-intelligentiemodel. Twee mensen die bekend waren met de zaak zeiden dat de regeling voortkwam uit een verzoek van de gouverneur van de Bank of England, Andrew Bailey. Bailey, die tevens voorzitter is van de Financial Stability Board, hoopt dat Anthropic de mogelijkheden van zijn nieuwe ClaudeMythos preview-model voor kunstmatige intelligentie aan de leden van de commissie zal introduceren.
De Financial Stability Board is een mondiaal financieel regelgevend agentschap dat functionarissen van het ministerie van Financiën, centrale bankiers en effectentoezichthouders uit de G20-landen samenbrengt. Tot de leden behoren relevante functionarissen uit de Verenigde Staten, het Verenigd Koninkrijk, Canada, Frankrijk, Duitsland, Japan, Saoedi-Arabië, Australië en andere landen.
Veel leden van de commissie maken zich steeds meer zorgen dat vergelijkbare modellen voor kunstmatige intelligentie, ontwikkeld door Mythos en andere Amerikaanse technologiebedrijven, zwakheden in de netwerkverdedigingssystemen van financiële instellingen kunnen uitbuiten, waardoor potentiële risico’s voor het mondiale banksysteem kunnen ontstaan.
Anthropic zei vorige maand dat Mythos duizenden risicovolle beveiligingsproblemen had ontdekt in alle grote besturingssystemen en webbrowsers. Het bedrijf zei ook dat als dergelijke kwetsbaarheden problemen veroorzaken, dit ernstige gevolgen zal hebben voor de economische ontwikkeling, de openbare veiligheid en de nationale veiligheid.
Vanwege zorgen over het grote risico dat de technologie in verkeerde handen valt, staat Mythos momenteel slechts open voor een paar instellingen, en de meeste gebruikers zijn instellingen in de Verenigde Staten. Maar dit baart ook veel bedrijven en regelgevende instanties in andere regio's zorgen, en er is sprake van een onevenwicht in het niveau van netwerkbeveiliging in verschillende regio's.
Momenteel heeft een groot aantal instellingen over de hele wereld toestemming gevraagd om Mythos te gebruiken, of om meer te leren over de gerelateerde functies van het model. Anthropic heeft ermee ingestemd om briefings op hoog niveau te verstrekken aan een aantal niet-Amerikaanse agentschappen, waaronder de Europese Commissie.
Momenteel zijn slechts ongeveer veertig instellingen goedgekeurd om Mythos te gebruiken, waaronder Amazon, Microsoft en JPMorgan Chase. Deze instellingen kunnen het model gebruiken om systeemkwetsbaarheden op te lossen en op te lossen. Op verzoek van het Witte Huis heeft Anthropic beloofd dit model niet op grote schaal te promoten.
De Financial Stability Board schrijft een rapport om de normatieve en praktische richtlijnen voor de toepassing van kunstmatige intelligentie in de financiële sector uit te zoeken, en is van plan volgende maand een concept voor publiek commentaar vrij te geven. Zowel de Financial Stability Board als Anthropic weigerden commentaar te geven op recente communicatie tussen de twee partijen.
Regelgevende instanties in verschillende landen hebben er bij banken en verschillende financiële instellingen op aangedrongen om netwerkbeveiligingssystemen uitgebreid te onderzoeken, systeempatches zo snel mogelijk te pushen en te installeren, en verschillende beveiligingskwetsbaarheden te repareren die aan het licht zijn gekomen door nieuwe kunstmatige intelligentiemodellen.
Het Britse ministerie van Financiën en de financiële toezichthouders hebben onlangs ook bij verschillende financiële instellingen in de City van Londen aangedrongen om proactieve maatregelen te nemen om snellere en destructievere cyberaanvallen te voorkomen die voortkomen uit de allernieuwste kunstmatige intelligentietechnologie, om zo de netwerkveiligheidsrisico’s te verminderen.
Vanwege de huidige geopolitieke spanningen zijn sommige regelgevende instanties echter van mening dat het voor de wereld moeilijk is om een verenigd en gecoördineerd antwoord te formuleren op de veiligheidsdreigingen die uitgaan van kunstmatige intelligentie.
Eerder deze maand riep het Internationale Monetaire Fonds beleidsmakers in verschillende landen op om de internationale samenwerking te versterken om gezamenlijk de kwetsbaarheden op het gebied van cyberbeveiliging aan te pakken die aan het licht komen door de nieuwe generatie kunstmatige intelligentiemodellen.
Het IMF waarschuwde dat nieuwe modellen voor kunstmatige intelligentie de cyberveiligheidsrisico’s hebben doen escaleren tot grote verborgen gevaren die macrofinanciële schokken kunnen veroorzaken.
IMF-medewerkers schreven in een blogpost: Cyberveiligheidsrisico's respecteren geen grenzen. Opkomende economieën en ontwikkelingslanden beschikken over het algemeen over beperkte middelen en zwakke netwerkverdedigingscapaciteiten. De kans is groter dat ze het doelwit worden van cyberaanvallers en dat ze zwaardere gevolgen zullen ondervinden.