Anthropic heeft de toegang tot zijn meest geavanceerde kunstmatige-intelligentiemodellen, waaronder Mythos, afgesloten nadat de regering-Trump een ongekend bevel had uitgevaardigd dat alle buitenlandse burgers de toegang tot zijn technologie verbood. Het bedrijf zei in een verklaring dat de Amerikaanse regering haar heeft gevraagd de toegang tot de Fable 5- en Mythos 5-modellen op te schorten voor alle buitenlanders ‘ongeacht of ze zich in of buiten de Verenigde Staten bevinden’, daarbij verwijzend naar zorgen over de nationale veiligheid. Een Amerikaanse functionaris bevestigde dat het ministerie van Handel de brief had verzonden. De modelontwikkelaar heeft sindsdien alle klantentoegang tot beide systemen afgesloten om naleving te garanderen.
Nooit eerder heeft de Amerikaanse regering zulke alomvattende maatregelen genomen om buitenlandse toegang tot geavanceerde AI-modellen, ontwikkeld door Amerikaanse bedrijven, te beperken. Zowel de regering-Trump als Biden hebben de export van andere sleuteltechnologieën, zoals halfgeleiders en supercomputers, beperkt, en sommigen hebben besproken of de toegang tot AI-modellen moet worden geblokkeerd. De beperkingen op de software zelf hebben echter aanleiding gegeven tot meerdere zorgen op constitutioneel en commercieel niveau.
Anthropic zei dat de regering het bevel heeft uitgevaardigd omdat ze ontdekte dat de onlangs uitgebrachte Mythos-afgeleide Fable 5 de mogelijkheid had om te "jailbreaken" (dat wil zeggen, het omzeilen van veiligheidshekken). Het bedrijf heeft Fable 5 eerder verboden cyberbeveiligingstaken uit te voeren.
"Wij zijn van mening dat het ongepast is om een commercieel model in herinnering te brengen dat zich richt op honderden miljoenen gebruikers alleen maar vanwege het beperkte potentiële risico op een jailbreak", aldus Anthropic in een bericht op de officiële website. “Als de hele industrie deze standaard implementeert, zal de inzet van nieuwe modellen door alle toonaangevende modelaanbieders feitelijk tot stilstand komen.”
In naam van de nationale veiligheid heeft de regering wijdverbreide beperkingen ingevoerd op een reeks AI-modellen. Deze stap kan een precedent scheppen voor alle reguliere AI-modelontwikkelaars zoals OpenAI, Google-moederbedrijf Alphabet en Meta. Industrieleiders zoals Nvidia CEO Jensen Huang en OpenAI CEO Sam Altman hebben eerder een beroep gedaan op de Amerikaanse regering om in plaats daarvan de wereldwijde popularisering van Amerikaanse AI-systemen te bevorderen en de leidende positie van hun land te behouden.
Anthropic zei dat het het overheidsbevel vrijdag om 17.21 uur New Yorkse tijd heeft ontvangen. Het bevel, uitgevaardigd vóór het werk op vrijdag, is in strijd met eerdere verklaringen van de regering-Trump en een onlangs ondertekend uitvoeringsbesluit waarin stond dat de regering geen licentiesysteem voor modelbeoordeling zou implementeren.
Het bevel van vrijdag zou ook de al lang bestaande spanningen tussen Anthropic en delen van de regering-Trump kunnen verergeren. De AI-ontwikkelaar kwam eerder dit jaar in botsing met het Pentagon over het gebruik van zijn technologie voor militaire en surveillancedoeleinden. Na het conflict bestempelde de regering het bedrijf als een risico voor de Amerikaanse toeleveringsketen en gaf ze federale instanties de opdracht om de producten uit te faseren.
Anthropic, een niet-beursgenoteerd bedrijf dat zichzelf lange tijd heeft beschouwd als een ‘meer verantwoordelijke AI-ontwikkelaar’, heeft het Mythos-model in april van dit jaar voor het eerst vrijgegeven aan een zeer klein aantal bedrijven en instellingen, waarbij het waarschuwde dat het de mogelijkheid heeft om kwetsbaarheden in de netwerkbeveiliging te ontdekken en dat het risico van grootschalige distributie te hoog is.
Er zijn tekenen dat de beperkte vrijgave de conflicten van Anthropic met de regering-Trump had kunnen verlichten: er waren berichten dat de Amerikaanse regering zich voorbereidde om centrale federale agentschappen een versie van Mythos te laten gebruiken.
Mythos heeft de regering-Trump er ook toe aangezet om de formulering van AI-beleid te versnellen. Het onlangs uitgevaardigde uitvoeringsbesluit stelde de implementatie voor van een vrijwillig modelbeoordelingssysteem en maakte duidelijk dat het uitvoeringsbesluit geen verplicht licentiesysteem vormt.
Amerikaanse AI-ontwikkelaars haasten zich om de meest geavanceerde modellen te lanceren en aan investeerders te bewijzen dat de technologie winstgevend kan zijn, en de nieuwste overheidsbeperkingen keren deze trend tegen. Na de historische beursgang van SpaceX zijn zowel OpenAI als Anthropic van plan om dit jaar al naar de beurs te gaan.
Om de kans te grijpen om geavanceerde AI-modellen vrij te geven, publiceerde Anthropic eerder deze maand een lange blog, waarin werd opgeroepen tot de oprichting van een mechanisme voor de overheid en AI-ontwikkelaars om gezamenlijk te beslissen wanneer technologisch onderzoek en ontwikkeling moeten worden vertraagd om potentiële risico's te vermijden.
“Het zou het beste zijn voor de wereld om de keuze te hebben tussen het demonstreren of tijdelijk pauzeren van” gevaarlijk AI-onderzoek en -ontwikkeling, zei het bedrijf destijds in een blogpost. AI-technologie ontwikkelt zich snel en de efficiëntie ervan kan de efficiëntie van het menselijk werk duizenden keren vergroten, of zelfs menselijk werk vervangen, waardoor een reeks nieuwe risico’s ontstaat.
De Europese Commissie zei dat ze de verklaring van Anthropic evalueert en met bondgenoten blijft communiceren over potentiële risico's en cyberveiligheidsproblemen die verband houden met geavanceerde AI-modellen. De Europese Commissie voegde eraan toe dat de laatste ontwikkelingen de noodzaak voor Europa benadrukken om technologische autonomie te bevorderen.