OpenAI-CEO Sam Altman vertelde werknemers dat het bedrijf niet de bevoegdheid heeft om te beslissen hoe het ministerie van Defensie zijn kunstmatige intelligentie (AI)-software gebruikt, wat suggereert dat dit voornemen om zich te bemoeien met de manier waarop het wordt gebruikt een deel van de reden kan zijn voor de spanning tussen het Pentagon en Anthropic PBC.
Volgens een persoon die bekend is met de zaak zei Altman dinsdag tijdens een bijeenkomst van alle medewerkers dat het Amerikaanse ministerie van Defensie duidelijk heeft gemaakt dat het zal luisteren naar de professionele meningen van OpenAI over technologietoepassingen, maar niet wil dat het bedrijf zijn mening geeft over de kwaliteit van bepaalde militaire operaties. ‘Je hebt niet de bevoegdheid om operationele beslissingen te nemen,’ zei Altman, zei de persoon.
OpenAI weigerde commentaar te geven.
OpenAI bereikte vrijdagavond laat een overeenkomst met het Pentagon om het Pentagon toe te staan de AI-modellen van het bedrijf in geheime netwerken in te zetten. De bijeenkomst was Altman's eerste gelegenheid om vragen van medewerkers te beantwoorden. Eerder had het Pentagon een geschil met OpenAI-concurrent Anthropic, die eiste dat zijn technologie niet zou worden gebruikt voor massale surveillance van het Amerikaanse volk of de inzet van volledig autonome wapens.
Altman heeft gezegd dat zijn overeenkomst met het ministerie van Defensie de principes van OpenAI belichaamt, waaronder het verbieden van massasurveillance in de Verenigde Staten en het aansprakelijk stellen van mensen voor het gebruik van geweld, inclusief autonome wapensystemen. Hij zei later dat de door OpenAI bereikte overeenkomst overhaast was en zei dat het bedrijf samenwerkte met het ministerie van Defensie om "enkele bepalingen aan de overeenkomst toe te voegen om onze principes te verduidelijken." Deze principes houden onder meer in dat ervoor moet worden gezorgd dat AI niet wordt gebruikt om toezicht te houden op Amerikaanse burgers en dat inlichtingendiensten zoals de National Security Agency niet kunnen vertrouwen op de diensten van OpenAI.
Tijdens de bijeenkomst met alle medewerkers zei Altman ook dat hij er bij het ministerie van Defensie op zou blijven aandringen om de aanwijzing van Anthropic als een risico voor de toeleveringsketen te laten vallen – een label dat nog nooit eerder op een Amerikaans bedrijf is toegepast en doorgaans gereserveerd is voor Amerikaanse tegenstanders. Altman heeft gezegd dat hij hoopt de impasse tussen het Pentagon en Anthropic te helpen verlichten.