Het Amerikaanse ministerie van Defensie zei dinsdag laat lokale tijd dat de ‘rode lijnen’ die het kunstmatige-intelligentiebedrijf Anthropic had gesteld over het gebruik van zijn technologie ervoor zorgden dat het bedrijf een ‘onaanvaardbaar risico voor de nationale veiligheid’ vormde. Dit was de eerste officiële reactie van het ministerie op een rechtszaak die door het bedrijf was aangespannen wegens de vaststelling van het 'supply chain risk'-beleid. Dit komt nadat minister van Defensie Pete Hegseth Anthropic vorige maand classificeerde als een 'supply chain risk'-entiteit, en Anthropic een rechtbank had gevraagd om het ministerie van Defensie tijdelijk te verbieden dat label af te dwingen.
In een 40 pagina's tellend dossier bij een federale rechtbank in Californië verklaarde het ministerie van Defensie dat het zijn voornaamste zorg is dat als Anthropic gelooft dat militair gebruik de 'rode lijnen' van het bedrijf schendt, het bedrijf 'kan proberen zijn technologie te deactiveren of preventief modelgedrag voor of tijdens gevechtsoperaties te wijzigen.' Het ministerie van Defensie is van mening dat deze onzekerheid rechtstreeks van invloed kan zijn op de mate van afhankelijkheid en controleerbaarheid van deze technologie bij oorlogsoperaties.
Uit informatie blijkt dat Anthropic afgelopen zomer een contract ter waarde van 200 miljoen dollar heeft getekend met het Pentagon, dat betrekking heeft op de inzet van zijn kunstmatige-intelligentietechnologie in geheime systemen. Tijdens daaropvolgende onderhandelingen over contractvoorwaarden verklaarde Anthropic dat het niet wilde dat zijn systeem zou worden gebruikt voor massale surveillance van Amerikanen en geloofde dat de technologie nog niet geschikt was voor direct gebruik bij doelselectie of het afvuren van beslissingen met dodelijke wapens. Het Pentagon benadrukte dat particuliere bedrijven niet het laatste woord mogen hebben over de manier waarop het leger technologie gebruikt, en de meningsverschillen tussen de twee partijen over de grenzen van de toepassing van technologie werden openbaar.
Nadat het ministerie van Defensie Anthropic had geclassificeerd als een ‘toeleveringsketenrisico’, leidde dit tot kritiek van veel partijen. Meerdere organisaties wezen erop dat het Pentagon zijn standpunt had kunnen uiten door het contract te beëindigen zonder gebruik te hoeven maken van het dodelijkere instrument van risico-identificatie in de toeleveringsketen. Werknemers van veel technologiebedrijven, waaronder OpenAI, Google en Microsoft, evenals meerdere juridische rechtengroepen, hebben "amicus curiae"-inzendingen bij de rechtbank ingediend om het standpunt van Anthropic publiekelijk te ondersteunen.
In de rechtszaak beschuldigt Anthropic het ministerie van Defensie van het schenden van haar First Amendment-rechten, met het argument dat de overheid bedrijven straft op basis van ideologische standpunten. Het bedrijf stelt dat bedrijven het recht hebben om hun mening te uiten over de ethische grenzen van hun technologie en dienovereenkomstig grenzen te stellen, en niet als veiligheidsrisico mogen worden bestempeld vanwege verschillen in waarden met de overheid.
Momenteel heeft de rechtbank aanstaande dinsdag een hoorzitting gepland over het verzoek om een voorlopige voorziening van Anthropic. Op het moment van schrijven heeft Anthropic niet publiekelijk gereageerd op het laatste document van het ministerie van Defensie.
Gerelateerde artikelen:
Anthropic verzoekt het hof van beroep om de bevindingen van het Pentagon over risico's voor zijn toeleveringsketen stop te zetten