Op 5 maart was Dario Amodei, medeoprichter en CEO van het Amerikaanse AI-bedrijf Anthropic, behoorlijk ontevreden over OpenAI-CEO Sam Altman. Volgens technologiewebsite The Information noemde Amodei de samenwerking van OpenAI met het Amerikaanse ministerie van Defensie (ook bekend als het ministerie van Oorlog) een ‘veiligheidsshow’ in een werknemersmemo.
Amodei
"OpenAI accepteerde de DoD-overeenkomst en wij niet, vooral omdat zij zich zorgen maakten over het sussen van hun werknemers, terwijl onze echte zorg het voorkomen van misbruik van de technologie was", schreef Amodei.
De gesprekken van Anthropic met het Amerikaanse ministerie van Defensie zijn vorige week afgebroken, waarbij het bedrijf het verzoek van laatstgenoemde om onbeperkt gebruik van AI heeft afgewezen. Anthropic heeft eerder een contract ter waarde van 200 miljoen dollar getekend met het Amerikaanse leger en eiste een duidelijke toezegging van het ministerie van Defensie om zijn AI-technologie niet te gebruiken voor binnenlandse massabewaking of de ontwikkeling van autonome wapens.
In plaats daarvan sloot het Amerikaanse ministerie van Defensie uiteindelijk een deal met OpenAI. Altman zei dat het nieuwe contract van het ministerie van Defensie bescherming zal omvatten die vergelijkbaar zijn met de ‘rode lijnen’ waar Anthropic op aandringt.
Amodei zei echter in een memo aan medewerkers dat de verklaring van OpenAI een “complete leugen” was en dat Altman zich hypocriet “vermomde als bemiddelaar en dealmaker”.
Amodei's opmerkingen zijn misschien niet alleen maar uit persoonlijke wrok. De bezwaren van Anthropic richten zich op de nadruk van het Amerikaanse ministerie van Defensie dat zijn AI-technologie voor “elk wettig doel” kan worden gebruikt. OpenAI zei in een blogpost dat het contract toestaat dat de AI-systemen van het bedrijf voor “alle wettige doeleinden” worden gebruikt.
OpenAI verklaarde eerder in een blogpost: “Tijdens onze communicatie heeft het ministerie van Defensie duidelijk gemaakt dat zij geloven dat binnenlandse massasurveillance illegaal is en niet van plan zijn AI voor dit doel te gebruiken. We hebben ervoor gezorgd dat het contract duidelijk vermeldde dat deze situatie niet onder ‘legaal gebruik’ viel.”
Critici wijzen er echter op dat de wet niet in steen gebeiteld is en dat gedrag dat vandaag de dag als illegaal wordt beschouwd, in de toekomst mogelijk zal worden toegestaan.
Amodei zei tegen medewerkers: "Ik denk niet dat deze poging om het publiek of de media te vergoelijken/verduisteren veel effect heeft op het publiek of de media. De meeste mensen denken dat de deal van OpenAI met het ministerie van Defensie onbetrouwbaar of verdacht is, en ze beschouwen ons als helden (we staan momenteel op de tweede plaats in de App Store). Deze truc werkt voor sommige idioten op Twitter, maar dat maakt niet uit. Mijn grootste zorg is hoe we ervoor kunnen zorgen dat deze truc niet werkt voor OpenAI-medewerkers."
Voorlopig lijkt het publiek meer te neigen naar het steunen van Anthropic. Nadat OpenAI een overeenkomst had bereikt met het Amerikaanse ministerie van Defensie, steeg het aantal verwijderingen van ChatGPT met 295%.