Tien Nobelprijswinnaars en twee voormalige staatshoofden riepen onlangs gezamenlijk alle landen op om tegen eind 2026 “rode lijnen” uit te zetten voor de ontwikkeling van kunstmatige intelligentie (AI) om risicobeheer en -controle op internationaal niveau te bevorderen. De verklaring werd gezamenlijk uitgegeven door meer dan 200 ondertekenaars, waaronder senior medewerkers van OpenAI, Google DeepMind en Anthropic.
De verklaring benadrukte dat kwesties zoals pandemieën in de techniek en de werkloosheidsrisico's die door AI kunnen worden veroorzaakt, wijdverspreide mondiale aandacht hebben getrokken, en veel experts hebben gewaarschuwd dat het moeilijk kan zijn om de komende jaren effectieve menselijke controle over AI-systemen te implementeren.
Deze oproep valt samen met de bijeenkomst van de Algemene Vergadering van de Verenigde Naties en is van groot belang voor het bevorderen van mondiale consensus. Door het verzet van de Verenigde Staten wordt echter verwacht dat het op de korte termijn moeilijk zal zijn om specifieke bestuursmaatregelen te bevorderen. Ondertekenaars zijn onder meer Hinton, Bengio, ‘econoom’ Stiglitz, een bekende wetenschapper op het gebied van AI, de voormalige Colombiaanse president Santos, de voormalige Ierse president Mary Robinson, de voormalige Italiaanse premier Letta, evenals vele voormalige ministers, wetenschappers en diplomaten. Het is vermeldenswaard dat acteur Stephen Fry ook op de lijst staat. OpenAI-medeoprichter Wojciech Zaremba, DeepMind-hoofdwetenschapper Ian Goodfellow en andere leidinggevenden van technologiebedrijven namen ook deel aan de ondertekening, maar er waren geen CEO's van de drie bedrijven aanwezig.
De verklaring wees erop dat sommige geavanceerde AI-systemen misleidend en schadelijk gedrag hebben vertoond, maar dat deze systemen steeds meer autonomie krijgen en in staat zijn om acties te ondernemen en beslissingen te nemen in de echte wereld. Daarom is de totstandkoming van duidelijk gedefinieerde en verifieerbare internationale overeenkomsten over ‘rode lijnen’ een noodzakelijke maatregel geworden om onaanvaardbare risico’s te voorkomen. De ondertekenaars hopen dat deze rode lijnen eind 2026 zullen worden geïmplementeerd en vergezeld zullen gaan van een handhavingsmechanisme.
Hoewel de verklaring niet specifiek de rode lijnen voor AI-governance opsomde, adviseerde een ander document vorig jaar om AI te verbieden zich autonoom te repliceren, macht na te streven, automatisch cyberaanvallen te lanceren en ‘sandbagging’-gedrag te verbieden. Het voorstel wordt ook gesteund door veel Chinese wetenschappers, zoals Zhang Yaqin, voormalig president van Baidu, en Huang Tiejun, voorzitter van de Beijing Artificial Intelligence Society.
Bovendien hebben de Verenigde Naties onlangs aangekondigd dat zij een Internationaal Wetenschappelijk Adviescomité voor AI (vergelijkbaar met het Intergouvernementeel Panel over Klimaatverandering IPCC) en een mondiaal dialoogmechanisme voor AI-beheer zullen oprichten, waarmee een belangrijke stap wordt gezet in de richting van mondiaal bestuur van AI. Vanwege de negatieve houding van de Amerikaanse regering stuit het bevorderen van relevante acties echter nog steeds op weerstand. Volgens het ‘Amerikaanse AI-actieplan’ dat de regering-Trump in juli van dit jaar heeft uitgebracht, zijn de Verenigde Staten, hoewel zij hun steun uitspreken voor samenwerking met gelijkgestemde landen om AI te ontwikkelen, duidelijk tegen ‘overregulering’, vage gedragsregels gebaseerd op culturele agenda’s en bestuursplannen waaraan Chinese bedrijven deelnemen. Eerder deze maand zei de Amerikaanse senator Ted Cruz dat een van de ‘pijlers’ voor het Congres om AI-regelgeving uit te vaardigen, is ‘het bestrijden van buitensporige buitenlandse regelgeving’.
Niettemin laat de verklaring zien dat de mondiale bezorgdheid over het potentieel en de risico’s van AI blijft groeien. Korosi, voormalig voorzitter van de Algemene Vergadering van de Verenigde Naties, merkte in zijn commentaar op: "De mensheid is in de geschiedenis nog nooit een hogere intelligentie tegengekomen dan zijzelf, en in de komende paar jaar zal de mensheid met zo'n uitdaging worden geconfronteerd."