Sam Altman, CEO van het Amerikaanse kunstmatige-intelligentiebedrijf OpenAI, verklaarde onlangs in een interne memo aan werknemers dat het bedrijf dezelfde ‘rode lijn’ zal volgen als concurrent Anthropic als het gaat om mogelijke samenwerking met het Amerikaanse ministerie van Defensie (Pentagon): het weigeren toe te staan dat zijn eigen kunstmatige-intelligentietechnologie wordt gebruikt voor massasurveillance of volledig autonome dodelijke wapensystemen.
Altman benadrukte in de memo dat OpenAI geen technische ondersteuning zal bieden voor grootschalige surveillance, noch zal deelnemen aan de ontwikkeling van wapensystemen die autonoom dodelijke aanvallen kunnen bepalen. Dit komt in hoge mate overeen met de kernlijn waarop Anthropic heeft aangedrongen in eerdere onderhandelingen met het Pentagon. De weigering van Anthropic om concessies te doen aan de bovengenoemde twee soorten gebruik heeft geleid tot een spraakmakend spel met hoge inzet met het Amerikaanse ministerie van Defensie.
Deze verklaring zorgt ervoor dat de lay-out van het Pentagon op het gebied van militaire AI met nieuwe onzekerheden wordt geconfronteerd. Voorheen was het grote taalmodel van Anthropic, Claude, het eerste dat werd geïntegreerd in enkele van de meest gevoelige bedrijfsscenario's van het Amerikaanse leger, en werd het beschouwd als een belangrijke stap voor het ministerie van Defensie om de gemilitariseerde toepassing van de allernieuwste AI-technologie te bevorderen. Als OpenAI en Anthropic consistent blijven op het gebied van belangrijke ethische grenzen, en andere toonaangevende bedrijven zoals Google soortgelijke standpunten volgen, zal het Pentagon grotere weerstand ondervinden tegen onderhandelingen en technologieverwerving bij het zoeken naar alternatieven, vooral bij het inzetten van grote modellen voor algemene doeleinden in zeer gevoelige militaire missies.
Het technische en ethische debat rond militaire AI intensiveert tussen Amerikaanse technologiebedrijven en overheidsdepartementen. Aan de ene kant hoopt het Amerikaanse ministerie van Defensie algemene kunstmatige intelligentie te gebruiken om de analyse van inlichtingen te verbeteren, commandovoering en besluitvorming op het slagveld te bestrijden en zelfs geautomatiseerde toepassingen op een hoger niveau te verkennen; aan de andere kant zoeken veel toonaangevende AI-bedrijven naar een evenwicht tussen zakelijke kansen en ethische verantwoordelijkheden, en proberen ze de verspreiding van technologie op gevoelige gebieden zoals massatoezicht en autonome dodelijke wapens te beperken door 'rode lijnen' te stellen.
De verklaring van Altman wordt gezien als de duidelijke positionering van een andere belangrijke speler op het gebied van militaire AI nadat de verschillen tussen het Pentagon en Anthropic openbaar werden. Als reguliere bedrijven in de context van de sterk geconcentreerde AI-industrie in de Verenigde Staten een consensus bereiken over ethische grenzen, zal dit een diepgaande invloed hebben op het pad en tempo van de toekomstige verwerving en inzet van algemene AI-capaciteiten door het leger. Het kan ook verdere discussies en spelletjes in de Verenigde Staten over militair AI-toezicht en internationale regels bevorderen.
Gerelateerde artikelen:
Anthropic bereidt zich voor om zich terug te trekken uit een defensiecontract van 200 miljoen dollar, de Amerikaanse minister van Defensie dreigt het delen van technologie af te dwingen
Het Amerikaanse ministerie van Defensie stelt een openbare deadline vast voor onbeperkt gebruik van antropische AI-tools