Extremistische groeperingen zijn begonnen te experimenteren met het gebruik van kunstmatige intelligentie, met name generatieve AI, om een ​​groot aantal nieuwe propaganda te creëren. Deskundigen maken zich nu zorgen dat het toenemende gebruik van generatieve kunstmatige intelligentie-instrumenten door de groepen het werk dat Big Tech de afgelopen jaren heeft gedaan om te voorkomen dat hun inhoud op internet terechtkomt, ongedaan zal maken.

"Onze grootste zorg is dat als terroristen generatieve AI gaan gebruiken om beelden op grote schaal te manipuleren, dit het delen van hash als oplossing heel goed zou kunnen vernietigen", vertelde Adam Hadley, uitvoerend directeur van TechAgainstTerrorism, aan WIRED. "Dit is een enorm risico."

Big Tech-platforms werken al jaren aan het creëren van databases met bekende gewelddadige extremistische inhoud, zogenaamde hash-databases, die over verschillende platforms worden gedeeld om dergelijke inhoud snel en automatisch van het internet te verwijderen. Maar volgens Hadley ontdekken zijn collega's nu elke week ongeveer 5.000 gevallen van door AI gegenereerde inhoud. Het gaat onder meer om beelden die de afgelopen weken zijn gedeeld door groepen die banden hebben met Hezbollah en Hamas en die bedoeld lijken te zijn om het verhaal rond de oorlog tussen Israël en Hamas te beïnvloeden.

"Over ongeveer zes maanden is de mogelijkheid dat [ze] afbeeldingen manipuleren om hash-algoritmen te kraken echt zorgwekkend", zei Hadley. “De technologiegemeenschap heeft zo goed werk geleverd bij het bouwen van geautomatiseerde technologieën dat terroristen mogelijk genetische AI ​​gaan gebruiken om het werk dat al is gedaan te omzeilen.”

Andere voorbeelden die de afgelopen maanden door TechTerrorism-onderzoekers zijn ontdekt, zijn onder meer een neonazi-berichtenkanaal dat door AI gegenereerde afbeeldingen deelt die zijn gemaakt met behulp van racistische en antisemitische aanwijzingen die in apps in de Google Play Store zijn geplakt; en een extreemrechtse persoon die een ‘geheugenoorloggids’ creëert die anderen adviseert hoe ze door AI gegenereerde beeldmateriaal kunnen gebruiken om extremistische memo’s te maken. “Islamitische Staat” heeft een handleiding voor technische ondersteuning uitgebracht over het veilig gebruiken van door AI gegenereerde tools; een gebruiker van een pro-Islamitische Staat archiefdienst beweerde een op AI gebaseerd systeem voor automatische spraakherkenning (ASR) te hebben gebruikt om de Arabische propaganda van Islamitische Staat te transcriberen; en een pro-Al Qaeda-mediakanaal publiceerde verschillende posters met afbeeldingen die hoogstwaarschijnlijk zijn gemaakt met behulp van een door AI gegenereerd platform.

Naast het beschrijven van de dreiging die voortkomt uit generatieve AI-tools die afbeeldingen kunnen aanpassen, heeft TechTerrorism een ​​nieuw rapport gepubliceerd waarin andere manieren worden opgesomd waarop genetische AI-tools kunnen worden gebruikt om extremistische groepen te helpen. Deze omvatten de mogelijkheid om promotionele inhoud snel en eenvoudig om te zetten in meerdere talen met behulp van geautomatiseerde vertaaltools, of de mogelijkheid om op grote schaal gepersonaliseerde berichten te creëren om online wervingsinspanningen te stimuleren. Maar Hadley gelooft dat kunstmatige intelligentie ons ook de kans biedt om extremistische groeperingen een stap voor te blijven en technologie te gebruiken om aanvallen te voorkomen.

"We zullen met Microsoft samenwerken om te onderzoeken of er manieren zijn om onze data-archieven te gebruiken om een ​​genetisch AI-detectiesysteem te creëren om de opkomende dreiging tegen te gaan dat genetische AI ​​op grote schaal wordt gebruikt voor terroristische inhoud", aldus Hadley. "Wij geloven dat genetische AI ​​kan worden gebruikt ter verdediging tegen vijandig gebruik van genetische AI."

Het partnerschap werd vandaag aangekondigd voorafgaand aan de Christchurch Call Leaders' Summit in Parijs. De Christchurch Call for Leaders Summit is een campagne om het internet te ontdoen van terroristische en extremistische inhoud.

"Het gebruik van digitale platforms om gewelddadige extremistische inhoud te verspreiden is een urgent probleem met gevolgen in de echte wereld", zei Brad Smith, vice-voorzitter en president van Microsoft, in een verklaring. “Door de mogelijkheden van technologie op het gebied van terrorismebestrijding te combineren met kunstmatige intelligentie hopen we een veiligere wereld te helpen creëren, zowel online als offline.”

Terwijl bedrijven als Microsoft, Google en Facebook allemaal hun eigen AI-onderzoeksafdelingen hebben en waarschijnlijk al hun eigen middelen inzetten om het probleem aan te pakken, zal het nieuwe initiatief uiteindelijk bedrijven helpen die deze problemen niet alleen kunnen aanpakken.

"Dit is vooral belangrijk voor kleinere platforms die geen eigen AI-onderzoekscentra hebben", zegt Hadley. "Zelfs nu, met hash-databases, kunnen kleinere platforms overspoeld worden met deze inhoud."

De dreiging van door AI gegenereerde inhoud beperkt zich niet tot extremistische groeperingen. Vorige maand bracht de Internet Watch Foundation, een Britse non-profitorganisatie die zich inzet voor het uitroeien van inhoud over kinderuitbuiting van het internet, een rapport uit waarin het toenemende aantal materiaal over seksueel misbruik van kinderen (CSAM) wordt beschreven dat door kunstmatige intelligentie-instrumenten op het dark web wordt gecreëerd.

Onderzoekers ontdekten dat in slechts één maand tijd meer dan 20.000 door AI gegenereerde afbeeldingen op een CSAM-forum op het dark web werden geplaatst, waarvan 11.108 door IWF-onderzoekers werden beoordeeld als de meest waarschijnlijke crimineel. Zoals IWF-onderzoekers in het rapport schreven: "Deze kunstmatige intelligentiebeelden kunnen zo overtuigend zijn dat ze niet te onderscheiden zijn van echte beelden."