Het Amerikaanse ministerie van Defensie dringt er bij verschillende toonaangevende bedrijven op het gebied van kunstmatige intelligentie, waaronder OpenAI en Anthropic, op aan om generatieve AI-tools die op grote schaal in commerciële domeinen worden gebruikt, te verbinden met militair geclassificeerde netwerken, en om reguliere gebruiksbeperkingen voor gewone gebruikers in deze omgevingen op te heffen of aanzienlijk te versoepelen.
Volgens mensen die bekend zijn met de zaak, vertelde Emil Michael, hoofd technologie van het ministerie van Defensie, dinsdag tijdens een evenement in het Witte Huis, aan leidinggevenden van meerdere technologiebedrijven dat het doel van het leger is om deze geavanceerde AI-modellen in staat te stellen te draaien op zowel niet-geclassificeerde als geheime informatiesystemen. Een niet bij naam genoemde functionaris zei dat het Pentagon “de inzet van geavanceerde AI-capaciteiten op alle geheime niveaus promoot.”
De stap maakt deel uit van de lopende onderhandelingen tussen het Pentagon en verschillende generatieve AI-bedrijven over hoe de Verenigde Staten kunstmatige intelligentie zullen gebruiken op toekomstige slagvelden; in deze scenario’s zijn drone-zwermen, robots en cyberaanvallen onderdeel geworden van het oorlogsbeeld. De verklaring van Michael zal naar verwachting het scherpe debat tussen “de wens van het leger om AI met zo min mogelijk beperkingen te gebruiken” en “technologiebedrijven die proberen gebruiksgrenzen te stellen voor hun eigen tools” verder intensiveren.
Momenteel ontwikkelen veel AI-bedrijven op maat gemaakte tools voor het Amerikaanse leger, maar de meeste producten kunnen alleen worden ingezet op niet-geclassificeerde netwerken die worden gebruikt voor het dagelijkse militaire beheer. In een geheime omgeving zijn slechts enkele producten van Anthropic verkrijgbaar via kanalen van derden, en overheden zijn nog steeds verplicht zich te houden aan het gebruiksbeleid van het bedrijf. De geheime netwerken van het leger worden doorgaans gebruikt voor gevoeligere taken, zoals de planning van gevechtsoperaties of het richten van wapens; Het is onduidelijk hoe en op welke tijdlijn het Pentagon van plan is chatbot-achtige AI-systemen volledig in deze netwerken te integreren.
Militaire functionarissen hopen de krachtige informatie-integratie- en inductiemogelijkheden van generatieve AI te gebruiken om de besluitvorming en situatieanalyse te ondersteunen. Maar onderzoekers waarschuwen dat zelfs de meest geavanceerde modellen fouten kunnen maken en zelfs informatie kunnen ‘verzinnen’ die redelijk klinkt, maar feitelijk onjuist is; Zodra dergelijke fouten zich voordoen in een zeer gevoelige en geheime gevechtsomgeving, kunnen de gevolgen fataal zijn.
Om de risico’s zoveel mogelijk te beperken, hebben de meeste AI-bedrijven ingebouwde beveiligingsmechanismen in de modellen en eisen ze van klanten dat ze voldoen aan een reeks gebruiksrichtlijnen. Sommige functionarissen van het Pentagon hebben deze externe beperkingen echter bekritiseerd, met het argument dat het leger het recht zou moeten hebben om commerciële AI-instrumenten in te zetten en te gebruiken volgens zijn eigen behoeften, zolang het maar voldoet aan de Amerikaanse wetgeving.
Deze week bereikte OpenAI een overeenkomst met het Pentagon om het leger toe te staan zijn tools, waaronder ChatGPT, te gebruiken op een niet-geclassificeerd netwerk genaamd "genai.mil"; het platform is beschikbaar gesteld aan meer dan 3 miljoen medewerkers van het ministerie van Defensie. Als onderdeel van de overeenkomst stemde OpenAI ermee in om veel van de gebruikelijke beperkingen van het netwerk op openbaar gebruik op te heffen, hoewel er enkele vangrails van kracht zullen blijven. Google, eigendom van Alphabet, en xAI, opgericht door Musk, hebben eerder soortgelijke afspraken gemaakt.
OpenAI zei in een verklaring dat deze samenwerking momenteel alleen voor niet-vertrouwelijk gebruik via "genai.mil" is. Om op deze basis uit te breiden naar andere omgevingen (zoals vertrouwelijke netwerken) zal een nieuwe of herziene overeenkomst moeten worden ondertekend.
Vergeleken met OpenAI is het onderhandelingsproces van Anthropic met het Pentagon gespannener en lastiger. Bedrijfsleiders hebben militaire functionarissen duidelijk gemaakt dat ze niet willen dat hun technologie wordt gebruikt voor autonome wapenbestrijding of grootschalige surveillance in de Verenigde Staten. Anthropic's producten omvatten de chatbot "Claude."
Een woordvoerder van Anthropic zei dat het bedrijf "toegewijd is aan het behouden van het Amerikaanse leiderschap op het gebied van AI en het helpen van de Amerikaanse regering bij het reageren op buitenlandse dreigingen door de oorlogsjager te voorzien van de modernste AI-mogelijkheden." De woordvoerder zei dat Claude op grote schaal is ingezet in meerdere nationale veiligheidsmissies van de Amerikaanse regering en dat het bedrijf een “productieve dialoog” onderhoudt met het “Department of War” over hoe de gerelateerde samenwerking verder kan worden bevorderd.
Op bevel van president Donald Trump gaat het Amerikaanse ministerie van Defensie verder met plannen om zijn naam te veranderen in Ministerie van Oorlog, onder voorbehoud van wetgevende maatregelen van het Congres.