Op 25 juni meldde het tijdschrift Wired dat mensen die bekend waren met de zaak zeiden dat de regering-Trump de laatste tijd meer bereid is om met Anthropic te communiceren omdat ze niet langer te maken hebben met de CEO van het bedrijf, Dario Amodei. Amodei is vervangen door Anthropic mede-oprichter Tom Brown te midden van gesprekken om het Claude Fable 5 AI-model opnieuw uit te brengen.


Amodei

"Brown is niet zo excentriek als Amodei en kan effectief communiceren", zei een persoon met directe kennis van de oproep.

Op dit moment heeft de Amerikaanse regering de exportcontroles op Anthropic niet opgeheven. Deze beperking zorgde ervoor dat het krachtigste model van Anthropic op 12 juni offline werd gehaald. De reden was dat de Amerikaanse National Security Agency bevestigde dat er een manier was om het beveiligingsmechanisme te omzeilen en de sterkere mogelijkheden van het beperkte model van het bedrijf, ‘Mythos’, te verkrijgen.

Maar ambtenaren zijn bemoedigd dat de Amerikaanse regering de afgelopen dagen meerdere telefoontjes heeft gehad met Anthropic, waarbij Sarah Heck, het hoofd van het openbaar beleid van Brown en Anthropic, de leiding had.

Mensen die bekend waren met de zaak zeiden dat Amodei te moeilijk was om te communiceren en 'niet bereid was te luisteren naar de zorgen van de andere partij'.

Deze communicatie omvat zowel gesprekken op hoog niveau als uitwisselingen op werkgroepniveau, met deelname van technisch personeel van beide partijen. Een deel van de discussie concentreerde zich op het niveau van bewijs dat Anthropic zou moeten leveren om de zorgen van de overheid over het risico van het jailbreaken van het Fable 5-model weg te nemen, aldus mensen die bekend zijn met de zaak.

Een deel van de uitdaging voor beide partijen ligt op conceptueel niveau. Onafhankelijke experts op het gebied van cyberbeveiliging zijn er steeds meer van overtuigd dat beveiligingswaarborgen voor AI-modellen een noodmaatregel zijn, omdat ervaren gebruikers en toekomstige AI-modellen altijd manieren zullen vinden om beperkingen te omzeilen.

Het blijft onzeker wanneer Anthropic het Fable 5-model opnieuw kan inzetten. Welke stappen het bedrijf moet nemen om de exportcontroles op te heffen, kan de komende dagen echter duidelijker worden.

Een woordvoerder van het Witte Huis weigerde commentaar te geven. Een woordvoerder van Anthropic reageerde niet op een verzoek om commentaar.