OpenAI heeft aangekondigd dat het zijn contract met het Amerikaanse Pentagon zal wijzigen, een stap die komt in de nasleep van publieke reacties over de AI-technologie van het bedrijf die mogelijk wordt gebruikt voor massale surveillance. CEO Sam Altman plaatste een interne memo op de website
Altman schreef in de memo: “In overeenstemming met de toepasselijke wetten, waaronder het vierde amendement op de Amerikaanse grondwet, de National Security Act van 1947, de FISA 1978 en andere toepasselijke wetten, mogen AI-systemen niet opzettelijk worden gebruikt voor binnenlands toezicht op Amerikaans personeel en onderdanen.” Hij voegde er ook aan toe dat het Pentagon heeft bevestigd dat zijn diensten niet zullen worden gebruikt door de inlichtingendiensten van het Department of War (zoals de National Security Agency), en dat dergelijke diensten latere wijzigingen in het contract vereisen.
Het besluit, dat komt op het moment dat OpenAI afgelopen vrijdag een overeenkomst tekende met het Pentagon om zijn AI-modellen in te zetten op geheime militaire netwerken, komt op het moment dat de gesprekken met Anthropic mislukten, waarbij laatstgenoemde militair gebruik afwees en rode lijnen trok, waaronder een verbod op grootschalige binnenlandse surveillance en volledig autonome wapens. Altman erkende dat het bedrijf ‘het verkeerd had gedaan’ in zijn ‘haast’ om verder te komen met de overeenkomst. Hij zei dat de kwestie complex was en duidelijkere communicatie vereiste, en zei dat de stap bedoeld was om ‘de situatie te de-escaleren en een slechtere uitkomst te voorkomen.’
De aankondiging van de overeenkomst veroorzaakte al snel een terugslag, waarbij bijna 500 medewerkers van OpenAI en Google een open brief ondertekenden waarin ze het standpunt van Anthropic ondersteunden; Er braken protesten uit buiten de OpenAI-kantoren in San Francisco en Londen, en de oppositiegroep QuitGPT lanceerde een boycot en plande dinsdag verdere demonstraties. Anthropic heeft nog niet gereageerd op een verzoek om commentaar.