Een hoge functionaris van het Pentagon onthulde dat de Amerikaanse minister van Defensie Pete Hegseth “op het punt staat” de commerciële banden met Anthropic te verbreken en heeft het kunstmatige-intelligentiebedrijf geclassificeerd als een “supply chain risk party” – wat betekent dat elk bedrijf dat zaken wil doen met het Amerikaanse leger de banden met het bedrijf moet verbreken.
“Het zal heel lastig zijn om de banden te verbreken, maar we zullen ze laten boeten voor het feit dat ze ons zover hebben gebracht”, zei de hoge functionaris.
Het belang hiervan is dat dergelijke strafmaatregelen doorgaans voorbehouden zijn aan buitenlandse vijandige staten.
“De samenwerking van het Ministerie van Oorlog met Anthropic wordt momenteel herzien”, zei hoofdwoordvoerder van het Pentagon, Sean Parnell, tegen Axios. “Onze natie heeft partners nodig die bereid zijn onze strijders te helpen elk gevecht te winnen. Uiteindelijk gaat het hier om de veiligheid van onze troepen en het Amerikaanse volk.”
Claude van Anthropic is momenteel het enige kunstmatige-intelligentiemodel dat kan worden gebruikt in militaire geheime systemen, en is ook een toonaangevend product in veel commerciële toepassingen over de hele wereld. Ambtenaren van het Pentagon hebben de capaciteiten van Claude geprezen.
Zoals Axios vrijdag meldde, is de software diep geïntegreerd in het Amerikaanse militaire systeem – het Amerikaanse leger gebruikte Claude tijdens de aanval op Maduro in januari van dit jaar.
kern van tegenspraak
Anthropic voert al maanden intensieve onderhandelingen met het Pentagon over de voorwaarden voor het gebruik van Claude door het leger.
Antropisch CEO Dario Amodei hecht veel waarde aan dergelijke vraagstukken, maar is ook een pragmaticus.
Anthropic is bereid de bestaande gebruiksvoorwaarden te versoepelen, maar wil ervoor zorgen dat zijn instrumenten niet worden gebruikt voor massale surveillance van Amerikanen of de ontwikkeling van wapens die kunnen vuren zonder menselijke tussenkomst.
Het Pentagon is van mening dat deze beperkingen te streng zijn en zegt dat er veel onduidelijkheid bestaat en dat dergelijke voorwaarden niet normaal kunnen werken. Ambtenaren van het Pentagon hebben er in de onderhandelingen met Anthropic en drie andere grote kunstmatige-intelligentielaboratoria – OpenAI, Google en xAI – op aangedrongen dat het leger zijn instrumenten voor ‘alle wettige doeleinden’ kan gebruiken.
Een bron met kennis van de situatie zei dat hoge functionarissen van het ministerie van Defensie al lange tijd ontevreden zijn over Anthropic en van de gelegenheid gebruik maken om publiekelijk aan te vallen.
standpunt van de andere kant
De huidige wetten voor massatoezicht houden geen rekening met de impact van kunstmatige intelligentie. Het Pentagon verzamelt al enorme hoeveelheden informatie over mensen, van berichten op sociale media tot verborgen wapenvergunningen, maar er bestaat bezorgdheid dat kunstmatige intelligentie deze macht enorm zal vergroten en het mogelijk zal maken burgers aan te vallen.
Een woordvoerder van Anthropic zei: “We voeren te goeder trouw en een productieve dialoog met het Amerikaanse ministerie van Oorlog over hoe we kunnen blijven samenwerken en deze nieuwe en complexe problemen op passende wijze kunnen aanpakken.”
De woordvoerder herhaalde de toewijding van het bedrijf aan het gebruik van geavanceerde kunstmatige intelligentie voor de nationale veiligheid, en merkte op dat Claude het eerste model is dat in geheime netwerken wordt gebruikt.
Een andere antropische functionaris zei: “De bestaande wetten verbieden binnenlandse massasurveillance, maar deze wetten zijn totaal niet in staat de ontwikkeling van kunstmatige intelligentie bij te houden.”
De ambtenaar gaf een voorbeeld:
“Kunstmatige intelligentie kan worden gebruikt om alle openbare informatie op grote schaal te analyseren. Juridisch gezien heeft het Amerikaanse ministerie van Oorlog het recht om openbare informatie te verzamelen – de zogenaamde ‘open source intelligence’, inclusief alles op sociale media, openbare forums en online nieuws. Dit is altijd waar geweest, maar werd voorheen beperkt door mankracht en beperkte schaal.’
“Met kunstmatige intelligentie kan het Amerikaanse ministerie van Oorlog voortdurend de openbare berichten van elke Amerikaan monitoren en analyseren, en deze vergelijken met kiezersregistratielijsten en registraties van assemblagevergunningen om automatisch burgers te markeren die in de buurt van militaire bases wonen, het militaire beleid online hebben bekritiseerd, wapens bezitten of hebben deelgenomen aan bijeenkomsten.”
potentiële impact
Als Anthropic wordt vermeld als ketenrisicopartij, moeten alle grote bedrijven die zaken doen met het Pentagon bewijzen dat ze Claude niet gebruiken in hun workflows.
Gezien het wijdverbreide bereik van Anthropic maken sommige van deze bedrijven er vrijwel zeker gebruik van. Het bedrijf zei onlangs dat acht van de tien grootste Amerikaanse bedrijven Claude gebruiken.
De contracten die het Pentagon dreigt op te zeggen hebben een waarde van maximaal 200 miljoen dollar, een kleine fractie van de 14 miljard dollar aan jaarlijkse inkomsten van Anthropic.
Belangrijkste moeilijkheden
Een hoge regeringsfunctionaris zei dat concurrerende modellen "slechts iets inferieur" waren in regeringsspecifieke scenario's, wat plotselinge vervangingen bemoeilijkte.
daaropvolgende impact
De harde houding van het Pentagon ten aanzien van Anthropic zet ook de toon voor de onderhandelingen met OpenAI, Google en xAI. Alle drie de bedrijven zijn overeengekomen de beschermingsbeperkingen op te heffen voor gebruik door het leger in niet-geclassificeerde systemen, maar nog niet voor gevoeliger geclassificeerd werk.
Een hoge regeringsfunctionaris zei dat het Pentagon er vertrouwen in had dat de andere drie bedrijven de standaard van ‘alle wettige toepassingen’ zouden accepteren. Maar een bron die bekend is met de onderhandelingen zei dat veel problemen onopgelost blijven.