OpenAI en het Amerikaanse ministerie van Defensie (Pentagon) zijn overeengekomen om de wijzigingen in een onlangs ondertekend contract te versterken om meer bescherming tegen surveillance toe te voegen. Deze stap komt voort uit wijdverbreide kritiek dat het risico van binnenlandse massale surveillance van Amerikaanse burgers nog steeds bestaat onder het oorspronkelijke contract, en hoewel de nieuwe voorwaarden nog niet formeel zijn ondertekend, hebben mensen die bekend zijn met de zaak de ontwikkeling aan Axios bekendgemaakt.
Deze wijziging is van cruciaal belang omdat de eerdere overeenkomst van het Pentagon met Claude AI van Anthropic voor nationale veiligheidsdoeleinden voor enorme controverses heeft gezorgd, en de onderhandelingen met OpenAI op soortgelijke weerstand stuitten, en de vooruitzichten van de overeenkomst zorgwekkend zijn als de binnenlandse surveillanceproblemen niet worden aangepakt.
Volgens mensen die bekend zijn met de zaak heeft Sam Altman, CEO van OpenAI, proactief contact opgenomen met Emil Michael, de onderminister van Defensie voor Onderzoek en Engineering, en voorgesteld om het contract te herwerken. Toen de onderhandelingen met Anthropic verslechterden, wendde het Pentagon zich tot OpenAI om alternatieven te bevorderen.
Altman zei dat hij de zorgen van Anthropic over binnenlandse massasurveillance en autonome wapens deelt, waarbij critici zich afvragen of burgerlijke vrijheden en veiligheid werkelijk worden beschermd. Daartoe beantwoordde Altman direct duizenden vragen over de
“Eén ding dat ik denk dat ik verkeerd heb gedaan, is dat we dit niet overhaast hadden moeten aankondigen op vrijdag. Deze kwesties zijn uiterst complex en vereisen duidelijke communicatie. Het was onze bedoeling om de situatie te de-escaleren en een slechtere uitkomst te voorkomen, maar het leek op opportunisme en slordigheid. Dit is een waardevolle les voor mij bij toekomstige beslissingen met een hogere inzet”, gaf Altman eerder maandag toe in een interne post. Later deelde hij het bericht op X.
In de contracttaal van Axios staat: “In overeenstemming met de toepasselijke wetten, waaronder het vierde amendement op de Amerikaanse grondwet, de National Security Act van 1947 en de FISA 1978, mag het AI-systeem niet opzettelijk worden gebruikt voor binnenlands toezicht op Amerikaanse personen en onderdanen. Om twijfel te voorkomen, begrijpt het DoD dat deze beperking het opzettelijk volgen, toezicht houden of monitoren van Amerikaanse personen of onderdanen verbiedt, inclusief door de aanschaf of het gebruik van commercieel persoonlijke of identificeerbare informatie verkregen."
Bovendien verklaarde Altman dat de nieuwe voorwaarden expliciet verwijzen naar "commercieel verkregen" of openbare informatie, voorheen beperkt tot "privé-informatie", waardoor mazen in de wet worden gedicht zoals het kopen van geolocatie, surfen op het web of persoonlijke financiële gegevens van datamakelaars.
Altman benadrukte: “Het beschermen van de burgerlijke vrijheden van Amerikaanse burgers is van cruciaal belang en iedereen maakt zich hier grote zorgen over. We hebben dit specifiek verduidelijkt, inclusief commerciële toegang tot informatie. We zullen blijven leren en verbeteren, net zoals we alle producten iteratief inzetten.”
Het Pentagon moet Anthropic er nog formeel van op de hoogte stellen dat het het als een ‘toeleveringsketenrisico’ bestempelt, en Altman dringt erop aan dezelfde voorwaarden aan de rivaal aan te bieden.
Gerelateerde artikelen:
OpenAI reageert op zorgen over surveillance en vernieuwt het Pentagon-contract