Op 24 juni meldde de New York Times dat de National Security Agency (NSA) de toegang heeft verloren tot een krachtig kunstmatige-intelligentiemodel ontwikkeld door Anthropic, nu de regering-Trump verwikkeld is in een dispuut met Anthropic, waardoor de inlichtingendienst wordt beroofd van een instrument dat zowel indruk heeft gemaakt op zijn analisten als gealarmeerd. Het model presteert buitengewoon goed bij het ontdekken van softwarekwetsbaarheden.


Het Mythos-model van Anthropic

Deze maand legde de regering-Trump exportcontroles op aan Anthropic, daarbij verwijzend naar zorgen over de nationale veiligheid. Deze actie dwong Anthropic om de release van zijn meest geavanceerde modellen, de Mythos 5 en Fable 5, in te trekken.

Terwijl deze nieuwste modellen offline worden gehaald, testen cybersecurity-analisten van de NSA verschillende versies van de Anthropic-tool.

Zelfs binnen de NSA waren de resultaten van deze gecontroleerde test indrukwekkend. De NSA is een geheim bastion buiten Washington dat gespecialiseerd is in het ontwikkelen van digitale spionagetechnologie tegen buitenlandse tegenstanders en het beschermen van Amerikaanse netwerken tegen cyberaanvallen.

De kracht van de instrumenten van Anthropic en hun belang voor de NSA werden deze maand benadrukt tijdens een hoorzitting in het Congres. De hoorzitting laat zien hoe de regering steeds meer vertrouwt op de modernste kunstmatige-intelligentiesystemen voor cyberbeveiliging, zelfs als ze ruzie heeft met een vooraanstaande Amerikaanse ontwikkelaar.

Tijdens de hoorzitting zei senator Mark Warner, het vooraanstaand Democratisch lid van de House Intelligence Committee, dat NSA-directeur Joshua Rudd hem vertelde dat Mythos "binnen enkele uren, niet weken, bijna al onze geheime systemen in gevaar bracht". Deze verklaring trok brede aandacht nadat ze was geciteerd en gerapporteerd door The Economist.

Anthropic heeft dit jaar zijn eerste grote conflict gehad met de regering-Trump over een contract van het ministerie van Defensie ter waarde van 200 miljoen dollar om kunstmatige intelligentie in geheime systemen in te zetten. In dit spraakmakende geschil zijn de twee partijen het oneens over de grenzen van het gebruik van kunstmatige intelligentietechnologie in oorlogsvoering. De kernvraag is hoe regels en beperkingen kunnen worden gesteld om de toepassing van kunstmatige intelligentie bij militaire operaties te reguleren. Anthropic werd vervolgens door het Amerikaanse leger geclassificeerd als een "toeleveringsketenrisico".

De NSA was een van de eerste instanties die toegang kreeg tot Mythos, waardoor deze in de ongebruikelijke positie kwam een ​​product te testen dat het Pentagon als een nationaal veiligheidsrisico beschouwde. Het bureau is doorgegaan met het testen van de nieuwste producten van Anthropic in de aanloop naar het exportcontrolebevel deze maand.

Volgens Amerikaanse functionarissen en anderen die met de zaak bekend zijn, hebben sommige overheidsfunctionarissen de afgelopen weken geprobeerd het geschil bij het Pentagon te bezweren, terwijl ze tegelijkertijd werkten aan het oplossen van exportcontrolekwesties.

Het Witte Huis en inlichtingenfunctionarissen hadden er bij Anthropic op aangedrongen een geheim contract met de NSA te sluiten, waardoor de NSA de technologie van het bedrijf voor verschillende doeleinden had kunnen gebruiken, waaronder inlichtingenanalyse en het opsporen van nieuwe computerkwetsbaarheden.

Het contract is echter nog niet rond. Ondertussen hopen sommige Pentagon-functionarissen dat de NSA zal overstappen op andere AI-modellen.