De opvolger van de katholieke paus Franciscus, de Amerikaanse paus Leo XIV, heeft maandag zijn eerste encycliek uitgegeven sinds zijn aantreden: 'Magnifica Humanitas' (wat 'de grootheid van de mensheid' betekent). Dit programmatische document van 40.000 woorden richt zich rechtstreeks op de technologiegiganten uit Silicon Valley en roept op tot dringende en strikte regulering van kunstmatige intelligentie, waardoor een duidelijk front ontstaat tussen de kerk en het technologische machtscentrum.
Op een persconferentie in het Vaticaan omschreef de paus AI niet als ‘van nature slecht’, maar benadrukte hij duidelijk dat het ‘niet neutraal’ is omdat het onvermijdelijk de morele stempel van zijn schepper draagt. Hij veroordeelde het huidige onderzoek en de ontwikkeling op het gebied van AI krachtig als gedreven door ‘machtscultuur’ en geopolitieke concurrentie, en maakte zich zelfs nog meer zorgen dat een paar bedrijven ‘nieuwe afhankelijkheid, uitsluiting, manipulatie en ongelijkheid’ zouden creëren door data en rekenkracht te monopoliseren.
De paus deed in de encycliek drie kernoproepen: ten eerste riep hij op tot de ‘ontwapening’ van AI en bevrijdde hij deze van de logica van ‘gewapende concurrentie’ tussen het bedrijfsleven en het leger. Hij riep in het bijzonder op tot een strikt verbod op het volledig overdragen van de beslissingsbevoegdheid bij fatale stakingen aan geautomatiseerde systemen; ten tweede zal het bekritiseren van AI de vertrappen van de waardigheid van arbeid intensiveren, en ontwikkelaars eraan herinneren dat ze dit niet simpelweg moeten doen omwille van het winstbejag “offert systematisch banen op” en behandelt mensen als wegwerpinstrumenten; ten derde waarschuwde de paus, in het licht van het ‘accelerationisme’ of ‘transhumanisme’ dat door sommige elites in Silicon Valley wordt bepleit, duidelijk dat het niet betrouwbaar is om uitsluitend te vertrouwen op ‘ethische AI’ geformuleerd door een paar particuliere bedrijven, en dat er ‘een solide juridisch kader en onafhankelijk toezicht’ moeten worden gecreëerd.
Het meest in het oog springende arrangement van deze lanceringsceremonie is dat de paus Christopher Orlacher, de medeoprichter van het top-AI-bedrijf Anthropic, speciaal uitnodigde om naast hem te komen zitten. Orlacher gaf tijdens de bijeenkomst toe dat AI “de mogelijkheid om menselijke arbeid op grote schaal te vervangen reëel is” en gaf toe dat zelfs geavanceerde AI-laboratoria vaak te maken hebben met “prikkels en beperkingen die in strijd zijn met het juiste doen.”
De New York Times merkte op dat de stap van de paus de katholieke traditie voortzet van het optreden als morele scheidsrechter tijdens belangrijke historische momenten zoals de 'drukrevolutie'. De media zijn over het algemeen van mening dat deze encycliek niet alleen een krachtige weerlegging is van het wereldbeeld van Silicon Valley, maar ook een nieuwe morele mijlpaal vormt voor de mondiale discussie over AI-ethiek en -bestuur.
Gerelateerde artikelen:
De paus noemt Musk zelden: een biljoen salaris is te overdreven en de inkomenskloof is uit de hand gelopen
Heeft de paus een document geschreven waarin hij spreekt over op zijn hoede zijn voor AI?