Elon Musk’s kunstmatige intelligentiebedrijf xAI heeft een overeenkomst getekend met het leger om het leger in staat te stellen zijn grote model Grok in geheime systemen in te zetten, bevestigde een functionaris van het Amerikaanse ministerie van Defensie aan Axios. De overeenkomst wordt gezien als een belangrijke stap in de zoektocht van het Pentagon naar een nieuwe generatie AI-ruggengraat in zeer gevoelige militaire en inlichtingensystemen.
Tot op heden is Claude van Anthropic het enige model dat is goedgekeurd voor gebruik in deze systemen, die worden gebruikt voor de meest gevoelige taken op het gebied van inlichtingen, wapenontwikkeling en operaties op het slagveld. Het Pentagon en Anthropic hebben onlangs echter ernstige meningsverschillen gehad over "veiligheidsbescherming en gebruiksgrenzen", en het ministerie van Defensie heeft hen bedreigd door te zeggen dat als de andere partij geen compromis sluit, zij misschien alternatieven zal vinden.
De focus van het geschil ligt op de reikwijdte van het gebruik. Anthropic verwierp het verzoek van het Pentagon om het “beschikbaar te maken voor alle wettige doeleinden”, en drong er specifiek op aan dat Claude niet mag worden gebruikt voor massale surveillance van Amerikanen en de ontwikkeling van volledig autonome wapensystemen. Daarentegen heeft xAI ingestemd met deze standaard van ‘alle wettige toepassingen’, waardoor een breder scala aan toepassingen voor het leger wordt geopend. Volgens rapporten maakte de New York Times eerst bekend dat de overeenkomst tussen de twee partijen officieel was ondertekend, terwijl xAI niet reageerde op relevante verzoeken om commentaar.
Toch is het onduidelijk of xAI het vermogen heeft om Anthropic op korte termijn volledig te vervangen, of hoe lang het zal duren om de migratie te voltooien. Claude is momenteel diep verankerd in meerdere missiekritieke scenario's, zoals de inzet ter ondersteuning van een aanval op de Venezolaanse president Maduro via een partnerschap met Palantir. Ambtenaren van het Ministerie van Defensie erkenden ook dat het ‘ontladen en vervangen’ van Claude uit deze systemen een uiterst moeilijke en complexe onderneming zou zijn.
Tegen deze achtergrond zal minister van Defensie Pete Hegseth dinsdag in het Pentagon de CEO van Anthropic, Dario Amodei, ontmoeten in wat algemeen wordt verwacht dat het een gespannen bijeenkomst zal worden. Een functionaris van het ministerie van Defensie zei dat Hegseth vervolgens effectief een ‘confrontatie’ zal presenteren aan Amodei: als Anthropic er niet mee instemt alle beperkingen op het gebruik van het model op te heffen, zal het Pentagon overwegen het bedrijf te classificeren als een ‘toeleveringsketenrisico’ en kan het andere strafmaatregelen nemen.
De huidige situatie is dat in niet-vertrouwelijke omgevingen Grok, Google's Gemini en OpenAI's ChatGPT al kunnen worden gebruikt in de niet-geclassificeerde systemen van het Amerikaanse leger, en Google en OpenAI hebben ook met het Pentagon onderhandeld om hun eigen modellen in geheime systemen te introduceren. Die gesprekken nemen aanzienlijk toe nu het Pentagon zich voorbereidt op een mogelijke ‘breuk’ met Anthropic. Eén bron onthulde dat het ministerie van Defensie “OpenAI opnieuw heeft ingeschakeld en met een groter gevoel van urgentie vooruitgang boekt met onderhandelingen”, maar dat de twee partijen “nog steeds niet dicht” bij een overeenkomst zijn vanwege de hoge complexiteit van de betrokken kwesties. Een tweede bron bevestigde ook dat het tempo van de onderhandelingen met meerdere bedrijven aan het versnellen was.
De New York Times meldde eerder dat Google en het Pentagon ‘dicht’ waren bij een overeenkomst die het mogelijk zou maken dat Gemini in geheime systemen zou worden ingezet, terwijl OpenAI ‘niet dichtbij’ was. Een functionaris van het ministerie van Defensie betwistte deze verklaring echter en zei dat de onderhandelingen met Google en OpenAI zich blijven ontwikkelen, en het Pentagon gelooft dat beide uiteindelijk de overeenkomst zullen ondertekenen.
Ondertussen dringen de regeringsfunctionarissen van Biden erop aan dat zowel Google als OpenAI uniforme standaarden moeten accepteren die “voor alle wettige doeleinden kunnen worden gebruikt.” Het is nog steeds onduidelijk of OpenAI met de voorwaarden zal instemmen, maar de partijen zijn "nog steeds in gesprek", zei een persoon die bekend is met de zaak. Terwijl de veiligheidsverschillen tussen het Pentagon en Anthropic blijven escaleren, heeft Musk’s xAI preventief de kwalificatie verkregen om Grok in geheime systemen in te zetten, wat plotseling zijn status in het militaire AI-landschap heeft vergroot en ook het debat rond ‘technische grenzen’ en ‘bottomlines of use’ acuter heeft gemaakt.