Op 30 maart ontplofte er een reactie op een doorgestuurde video op het X-platform. Gebruiker @malmesburyman retweette een interviewfragment met Dario Amodei, CEO van Anthropic, met het onderschrift: Je kunt aan deze man echt voelen waarom Truman Oppenheimer zo walgelijk vond.


In de video herhaalt Amodei zijn bekende retoriek:

Onze modellen benaderen al heel dicht het niveau van menselijke intelligentie, maar de samenleving is zich nog niet wijdverspreid bewust van de komende risico's.


De opmerking leidde tot polarisatie. Voorstanders geloven dat Amodei zich voordoet als een heilige terwijl hij sterke AI ontwikkelt, net zoals Oppenheimer zei: "zijn handen zijn vol bloed" na het bouwen van de atoombom;

Tegenstanders zeggen dat de analogie eenvoudigweg niet standhoudt. Oppenheimer uitte zijn schuld pas nadat de atoombom honderdduizenden mensen had gedood, terwijl Amodei waarschuwde voor de risico's voordat de technologie een ramp veroorzaakte.

Maar de diepere vraag is: waarom worden alle leiders die geavanceerde AI ontwikkelen, ondervraagd over hun motieven, ongeacht hoe ze dat doen?

Het dilemma van Amodei: vasthouden aan de rode lijnen en een bedreiging voor de toeleveringsketen worden?

Dit is niet de eerste keer dat Amodei wordt uitgescholden omdat hij waarschuwt voor de risico's van AI.

In februari verwierp hij de ‘alle wettige toepassingen’-clausule van het Pentagon, waarbij hij vasthield aan de twee rode lijnen van Anthropic.


Als gevolg hiervan noemde minister van Defensie Pete Hegseth Anthropic een "bedreiging voor de veiligheid van de toeleveringsketen", en Trump gaf alle federale agentschappen opdracht om Claude binnen zes maanden te deactiveren.

Het label, dat gewoonlijk tegen buitenlandse tegenstanders wordt gebruikt, is nooit op een Amerikaans bedrijf toegepast.

Amodei verklaarde in een uitgelekte interne memo botweg dat de echte reden waarom het Pentagon en de regering Trump niet van Anthropic houden is:

We hebben niet gedoneerd aan Trump, we hebben Trump geen dictatoriale lof toegezwaaid, we hebben AI-regulering gesteund (wat in strijd is met hun agenda), we hebben eerlijk gesproken over AI-beleidskwesties (zoals het vervangen van banen), en we hebben ons feitelijk aan de rode lijnen gehouden in plaats van met hen samen te spannen om een ​​‘veiligheidsdrama’ op te voeren.

Een week later verontschuldigde Amodei zich voor de toon van de memo en zei: "Het vertegenwoordigde niet mijn weloverwogen standpunten."

Als je je aan je principes houdt, word je als vijand behandeld.

Als u waarschuwt voor risico's en weigert mee te werken, wordt u ondervraagd omdat u op zoek bent naar macht of morele hoogheid verwerft.

Het dilemma van Altman: rode lijnen steunen, maar beschuldigd worden van opportunisme

Als Amodei werd onderdrukt omdat hij zich aan de rode lijn hield, vertelde Altman ons dat zelfs als je die steunt, je uitgescholden zult worden.

Op 28 februari, slechts enkele uren nadat de gesprekken tussen Anthropic en het Pentagon waren afgebroken, kondigde Altman aan dat OpenAI een overeenkomst had bereikt met het ministerie van Defensie.

Hij verklaarde dat OpenAI, net als Anthropic, massasurveillance en volledig autonome wapens verbiedt.


De buitenwereld ontplofte en beschuldigde OpenAI ervan de positie van Anthropic op een kritiek moment te verzwakken:

Als deze bedrijven hun veiligheidsverplichtingen echt serieus zouden nemen, hadden ze zich moeten verenigen om op te staan ​​tegen het Pentagon in plaats van toe te staan ​​dat de regering elkaar uitbuitte als concurrenten op de markt.

Wat nog gênanter is, is dat de eigen medewerkers van OpenAI vorige week zojuist een open brief hebben ondertekend waarin ze Anthropic steunen en zich verzetten tegen het Pentagon.

Nu draaide de baas zich gewoon om en tekende het contract, en de werknemers voelden zich verraden.

Altman gaf maandag toe:

We moeten ons echt niet haasten om deze overeenkomst vrijdag vrij te geven. We wilden oprecht de situatie de-escaleren en een slechtere uitkomst voorkomen, maar het leek gewoon opportunistisch en overhaast.

Maar zelfs als OpenAI de voorwaarden van het contract wijzigt, vragen juridische experts en waarnemers zich nog steeds af of de beperkingen daadwerkelijk bindend zijn.

Altman vertelde medewerkers op een interne bijeenkomst dat het Pentagon duidelijk had gemaakt dat OpenAI "niet kan deelnemen aan gevechtsbesluitvorming" en dat het bedrijf alleen technische expertise en advies kan bieden, maar geen mening kan geven over de kwaliteit van militaire operaties.

Het dilemma van Hassabis: Tien jaar later is de wereld veranderd

De tijd verandert alles, inclusief uw verplichtingen.

Toen Google DeepMind in 2014 overnam, beloofde Google dat de technologie van DeepMind nooit voor militaire of wapendoeleinden zou worden gebruikt.

In 2018 ondertekenden de medeoprichters van Hassabis en DeepMind een open brief waarin werd opgeroepen tot de vaststelling van “sterke internationale normen, regelgeving en wetten tegen dodelijke autonome wapens.”

Maar tegen 2025 herzag Google zijn AI-principes en schrapte het zijn belofte om geen militaire technologie te ontwikkelen.

De technologie van DeepMind is nu gebundeld in Google Cloud-software en verkocht aan het leger van vele landen, waaronder de Verenigde Staten en Israël.


TIME vroeg: "Heb je compromissen gesloten om de doelstellingen van AGI te bereiken?" Het antwoord van Hassabis was:

Ik denk het niet. We hebben onlangs een aantal van ons beleid bijgewerkt, deels als reactie op de aanzienlijke toename van de mondiale geopolitieke onzekerheid.

Helaas is de wereld een gevaarlijkere plek geworden. Ik denk dat we niet langer als vanzelfsprekend kunnen aannemen dat democratische waarden zullen winnen – dat is simpelweg niet duidelijk. Ik denk dus dat we met de overheid moeten samenwerken.

In mei van dit jaar ondertekenden bijna 200 medewerkers van DeepMind een interne brief waarin ze het bedrijf opriepen militaire contracten op te zeggen.

Tijdens een interne bijeenkomst in juni antwoordde COO Lila Ibrahim dat DeepMind geen AI-applicaties voor wapens of massasurveillance zou ontwerpen of inzetten, en dat Google Cloud-klanten gebonden waren aan de voorwaarden.


Er is geen oplossing voor het dilemma, maar de waarschuwing kan niet stoppen

Amodei, Altman en Hassabis, drie mensen namen drie verschillende wegen, maar ze kregen allemaal een standje.

Houd je je aan de rode lijn? U bent op zoek naar het morele voordeel en het voordeel op het gebied van de regelgeving.

Compromissen sluiten en samenwerken? Je bent een hypocriet en koppelt je woorden niet aan je daden.

Uw standpunt wijzigen? Je verkoopt je ziel voor geld.

Als u zowel ontwikkelaar als voorstander van beveiliging bent, wordt elke waarschuwing die u maakt geïnterpreteerd als 'u doet uw eigen bedrijf een plezier'.

Deze voorspellingen kunnen juist zijn, maar ook fout.

Maar één ding is zeker. Ongeacht Amodei, Altman of Hassabis, wat ze ook zeggen of doen, sommige mensen zullen hun motieven in twijfel trekken.

Maar misschien is het nog steeds een meer verantwoorde keuze om tijdens de controverse te blijven waarschuwen dan te wachten tot er een ramp gebeurt en dan te zeggen: "Ik heb je gewaarschuwd".