Het eerste onafhankelijke panel van wetenschappelijke deskundigen op het gebied van kunstmatige intelligentie, opgericht door de Verenigde Naties, heeft een voorlopig beoordelingsrapport uitgebracht waarin wordt gesteld dat de snelle ontwikkeling van kunstmatige intelligentie (AI) enorme potentiële voordelen heeft opgeleverd voor landen en mensen over de hele wereld, maar ook grote risico's met zich meebrengt. Dit rapport zal van 6 tot 7 juli aan regeringen worden voorgelegd tijdens de eerste Global Artificial Intelligence Governance Dialogue van de Verenigde Naties in Genève. Het is de eerste onafhankelijke wetenschappelijke beoordeling van kunstmatige intelligentie op mondiale schaal. Een volledige en uitgebreide versie wordt naar verwachting volgend jaar uitgebracht.

Het rapport is mede geschreven door veertig vooraanstaande wetenschappers en experts uit alle delen van de wereld, die op individuele basis deelnamen voor een termijn van drie jaar en niet rechtstreeks gebonden waren aan een regering, instantie of bedrijf, en hadden tot doel onafhankelijk wetenschappelijk bewijs te leveren aan besluitvormers. Het rapport wijst erop dat beleidsmakers, in de context van de snelle ontwikkeling van de capaciteiten op het gebied van kunstmatige intelligentie, dringend behoefte hebben aan een betrouwbare wetenschappelijke basis om regelgevingskaders te formuleren. Het huidige begrip van sommige zeer autonome systemen door de wetenschappelijke gemeenschap blijft echter nog steeds achter, en het aanpassingsvermogen van de samenleving en de overheid is duidelijk onvoldoende. Effectieve instrumenten om dit soort zeer autonome kunstmatige intelligentie aan banden te leggen zijn nog steeds beperkt.

Yoshua Bengio, medevoorzitter van het expertpanel, benadrukte in het rapport dat het wetenschappelijk bewijs van ‘misleidend gedrag’ op het gebied van kunstmatige intelligentie groeit. Hij wees erop dat naarmate de systeemcapaciteiten verder verbeteren, wetenschappelijk onderzoek niet kan garanderen dat kunstmatige intelligentie geen catastrofale schade zal aanrichten; dergelijke schade kan voortkomen uit het gedrag van het systeem zelf of door gebruikers met kwaadaardige motieven. Het rapport concludeert dat “de potentiële voordelen van kunstmatige intelligentie enorm zijn”, maar waarschuwt dat de negatieve effecten van de technologie niet kunnen worden genegeerd als er sprake is van een gebrek aan adequate beperkingen en zorgvuldige planning tijdens grootschalige snelle inzet.

Het rapport wijst erop dat de snelle bevordering van kunstmatige intelligentie de sociale, economische en ecologische systemen diepgaand verandert, en ook uitdagingen met zich meebrengt voor de geestelijke gezondheid van gebruikers. Aan de positieve kant hebben toepassingen van kunstmatige intelligentie aangetoond dat ze de efficiëntie kunnen verbeteren en nieuwe waarde kunnen creëren op veel gebieden, zoals onderwijs, medische zorg, wetenschappelijk onderzoek en industriële productie. Maar aan de negatieve kant waarschuwt het rapport dat AI kan worden gebruikt als een destructief instrument of om het vertrouwen van het publiek, de sociale cohesie en het democratische overleg (deliberatieve discussie) te ondermijnen door informatie en emoties te manipuleren.

Volgens deze voorlopige beoordeling maken meer dan een miljard mensen over de hele wereld elke week gebruik van conversationele AI, maar het toepassingsniveau is zeer ongelijk tussen landen en bedrijfstakken, waarbij ontwikkelingslanden over het algemeen achterblijven wat betreft toegang en gebruik. In termen van rekenkrachtconcentratie stellen de in het rapport aangehaalde gegevens dat van de 500 beste supercomputers op het gebied van kunstmatige intelligentie ter wereld de Verenigde Staten ongeveer 75% van de rekenkracht voor hun rekening nemen en China ongeveer 15%. Dit benadrukt dat de huidige kunstmatige intelligentie-infrastructuur sterk geconcentreerd is in een paar economieën.

Het rapport besteedde ook aandacht aan de ernstige onevenwichtigheid op taalniveau. Er zijn meer dan 7.000 talen in de wereld, maar de huidige mainstream-modellen voor kunstmatige intelligentie bestrijken slechts een zeer klein aantal daarvan in opleiding. Voor veel talen zijn de kwaliteitsproblemen bij automatische vertalingen prominent aanwezig, en fouten hebben niet alleen invloed op de dagelijkse communicatie, maar kunnen ook ernstige gevolgen hebben in scenario's die zeer gevoelig zijn voor persoonlijke veiligheid, zoals medische diagnoses en besluitvorming over behandelingen.

Het panel van deskundigen wees erop dat de risico’s die de proliferatie van kunstmatige intelligentie met zich meebrengt, op veel terreinen duidelijk beginnen te worden. Deze omvatten potentiële negatieve gevolgen voor de mensenrechten, sociale systemen en de natuurlijke omgeving, zoals de toenemende frequentie van materiaal over seksueel misbruik van kinderen dat wordt gegenereerd door kunstmatige intelligentie en inhoud van seksueel geweld die wordt geïmplementeerd met behulp van deepfake-technologie op internet. Het rapport is van mening dat aanverwante verschijnselen duidelijke tekortkomingen hebben blootgelegd op het gebied van inhoudstoezicht, strafrecht en transnationale samenwerking, en dat er een dringende noodzaak bestaat om de reacties op technisch en institutioneel niveau tegelijkertijd te versterken.

Wat de informatieomgeving betreft waarschuwt het rapport dat kunstmatige intelligentie de drempel voor grootschalige productie en nauwkeurig gerichte verspreiding van ‘overtuigende inhoud’ aanzienlijk heeft verlaagd. Deze trend zou kunnen leiden tot een geleidelijke erosie van de informatie-integriteit, waardoor het vertrouwen van het publiek in de media en instellingen wordt uitgehold, de sociale cohesie wordt ondermijnd en de deliberatieve mechanismen van democratische processen die afhankelijk zijn van feiten en beredeneerde debatten worden verstoord. Deskundigen zijn van mening dat in het licht van dergelijke veranderingen de traditionele regelgevingskaders voor informatiebeveiliging en media onvoldoende zijn geworden en dat het noodzakelijk is om de bestuursideeën te actualiseren en de internationale coördinatie te versterken.

Het rapport wees er ook op dat de meeste landen – waaronder enkele geavanceerde economieën – niet in staat zijn om technische beoordelingen uit te voeren van de nieuwste en krachtigste modellen voor kunstmatige intelligentie, en dat het moeilijk is om substantiële technische deelname te hebben om het mondiale bestuur van deze systemen te beïnvloeden. Deze kloof in technische capaciteiten en middelen heeft de internationale ongelijkheid bij het formuleren van veiligheidsnormen voor kunstmatige intelligentie en risicopreventie en -beheersing verder verergerd. De deskundigengroep riep op om een ​​breder scala aan landen te helpen hun beoordelings- en regelgevingscapaciteiten te verbeteren door middel van multilaterale samenwerkingsmechanismen en projecten voor capaciteitsopbouw, waardoor ze een meer representatieve stem in het mondiale bestuur zouden vormen.

Dit voorlopige rapport zal dienen als kernreferentiedocument tijdens de Global Artificial Intelligence Governance Dialogue van de Verenigde Naties, waar regeringen en relevante internationale organisaties toekomstige regelgevingskaders en samenwerkingstrajecten kunnen bespreken. De expertgroep verklaarde dat zij van plan is om het komende jaar de nieuwste wetenschappelijke onderzoeksresultaten en praktische toepassingsgevallen te blijven verzamelen en evalueren om een ​​meer gedetailleerde en systematische bewijsbasis te bieden voor het voorgestelde uitgebreide rapport om alle partijen te ondersteunen bij het zoeken naar een stabieler evenwicht tussen risicopreventie en -beheersing en technologische innovatie.