Palmer Luckey, de oprichter van het Amerikaanse virtual reality-apparatuurbedrijf Oculus en de oprichter van het militaire technologiebedrijf Anduril, verklaarde onlangs in een tv-interview dat kunstmatige intelligentie zou moeten kunnen deelnemen aan beslissingen over leven en dood in oorlog, waardoor de ethische controverse over ‘moordenaarsrobots’ opnieuw oplaait.

Luckey zei op Fox News Channel dat als het gaat om beslissingen over leven en dood, “de morele last te zwaar is en de risico’s te kritisch”, zodat landen koste wat het kost de meest geavanceerde technologie moeten adopteren, of het nu gaat om kunstmatige intelligentie, kwantumtechnologie of andere hulpmiddelen. Volgens hem is het gebruik van nauwkeurigere systemen bij de besluitvorming over stakingen 'moreel superieur' als het doel van oorlog het minimaliseren van burgerslachtoffers en bijkomende schade is dan het vasthouden aan het standpunt dat 'mensen alles onder controle hebben'.

Hij wees erop dat de sleutel niet is om kunstmatig een rode lijn te trekken voor het wapensysteem, zodat “robots niet kunnen beslissen wie leeft en wie sterft”, maar om de efficiëntie en nauwkeurigheid zoveel mogelijk te verbeteren om accidentele verwondingen en verkeerde beslissingen te verminderen. Luckey stelde botweg dat het kiezen van technologie met slechtere prestaties alleen maar om een ​​morele houding aan te nemen van ‘we zullen nooit toestaan ​​dat machines bevelen geven om te doden’ niet echt leidt tot hogere normen van de mensheid.

Deze verklaring komt in hoge mate overeen met de zakelijke koers van Anduril. Sinds de oprichting in 2017 heeft het bedrijf zich geconcentreerd op de ontwikkeling van drones, grondvoertuigen, bewakingstorens en verschillende sensoren voor het leger, en op het integreren van deze hardware in een verenigd systeem via een commando- en controleplatform voor kunstmatige intelligentie genaamd Lattice. Het bedrijf heeft eerder een verscheidenheid aan militaire AI-uitrusting gedemonstreerd, waaronder ‘zelfmoorddrones’, wat aanleiding gaf tot meer zorgen over ‘hoge automatisering’ op het slagveld.

Eind 2024 kondigde Anduril een strategisch partnerschap aan met OpenAI en is van plan om geavanceerde kunstmatige-intelligentietechnologie ‘op verantwoorde wijze in te zetten’ op het gebied van de nationale veiligheid, waarbij de nadruk in de eerste plaats ligt op defensieve toepassingen zoals counter-drone-systemen om het vermogen van het Amerikaanse leger om luchtbedreigingen in realtime te detecteren, te beoordelen en erop te reageren te vergroten. Tegelijkertijd wordt de houding van technologiebedrijven over de vraag of ze moeten deelnemen aan militair AI-onderzoek en -ontwikkeling stilletjes aan het versoepelen. Begin dit jaar schrapte Google bijvoorbeeld stilletjes een belangrijke verklaring in zijn eerdere belofte om ‘AI niet te gebruiken voor schadelijke doeleinden zoals wapens’, wat de industrie ertoe aanzette opnieuw de grenzen van de rol van technologiebedrijven in oorlog te bespreken.

In de context van de voortdurende evolutie van AI-apparatuur besteedt de buitenwereld ook steeds meer aandacht aan de vraag of dit soort technologie in het kernwapencontrolesysteem zal worden geïntroduceerd. In mei 2024 beloofden de Verenigde Staten publiekelijk dat de controle over kernwapens altijd in handen van mensen moet zijn, en riepen ze China en Rusland op om dezelfde garantie te geven. Niet lang daarna verklaarde het Pentagon echter dat het hoopte AI te gebruiken om de mogelijkheden van nucleaire commando-, controle- en communicatiesystemen te ‘versterken’. Deze subtiele verandering in standpunt wekte de waakzaamheid van waarnemers.

De academische wereld en de industrie zijn bijzonder ongerust over het idee om AI dicht bij de ‘nucleaire knop’ te brengen. Vorig jaar gebruikte een onderzoeksteam een ​​verscheidenheid aan grote modellen zoals GPT-4, GPT-3.5, Claude 2.0, Llama-2-Chat en GPT-4-Base om internationale conflictscenario's te simuleren. Uit de resultaten bleek dat deze systemen een duidelijke neiging hebben om te escaleren tijdens het spelproces. Soms kiezen ze er actief voor om kernwapens te gebruiken zonder voldoende redenen en waarschuwingen, en zelfs radicale uitspraken als "Aangezien er zo'n wapen is, laten we het gebruiken", wat de enorme risico's benadrukt van het uitbesteden van beslissingen over leven en dood aan machines.

Met de snelle ontwikkeling van AI-straaljagers, onbemande zwermen en geautomatiseerde verdedigingssystemen wordt de discussie rond ‘of machines mogen beslissen over leven en dood van mensen’ een van de kernkwesties op het gebied van technologische ethiek en internationale veiligheid. De verklaring van Palmer Luckey weerspiegelt niet alleen de sterke bereidheid van militaire technologiebedrijven om geautomatiseerde slagvelden te bevorderen, maar legt ook verder de scherpe tegenstelling bloot tussen landen die technologische voordelen nastreven en zich houden aan de essentie van de mensheid.