In een laatste interview waarschuwde Gary Gensler, voorzitter van de Amerikaanse Securities and Exchange Commission (SEC), opnieuw voor de risico’s die kunstmatige intelligentie (AI) met zich meebrengt voor de financiële markten. Hoewel er in de sector al vele jaren verschillende versies van AI-technologie worden gebruikt en er verschillende fraudepreventie- en compliancemaatregelen zijn ingezet, kan kunstmatige intelligentie nog steeds risico's met zich meebrengen voor de besluitvorming van beleggers.

"Op microniveau denk ik dat je volkomen gelijk hebt: het gebruik van AI om leningen, verzekeringen, enz. af te sluiten, kan tot vooringenomenheid leiden", zei Gensler.

Hij legde uit dat een robo-adviseur of makelaar-dealer bijvoorbeeld zorgvuldig moet worden geprogrammeerd om de belangen van de klant te optimaliseren, en niet die van de adviseur.

Tegelijkertijd zei Gensler dat er ook systeemrisico's zijn, en dat er risico's kunnen zijn voor zowel financiële bedrijven als investeerders die dezelfde kunstmatige intelligentie-instrumenten gebruiken. Dit kan een ‘hoederseffect’ op de markt creëren, dat optreedt wanneer groepen of instellingen allemaal hetzelfde doen of op dezelfde instrumenten vertrouwen, in plaats van onafhankelijk te handelen.

“De natuurlijke economie zal leiden tot een monocultuur, er zal een basisdataset of een basismodel zijn, en grote delen van de financiële sector zullen erop vertrouwen … om op die basis handel te drijven en verzekeringen af ​​te sluiten”, aldus Gensler. "FICO-scores zijn al tientallen jaren monocultureel, dus dit is niets ongewoons of nieuws."

De FICO-kredietscore is een methode voor het kwantificeren en beoordelen van de kredietwaardigheid van een individu. In de Verenigde Staten worden FICO-scores gebruikt bij 90% van de beslissingen over hypotheekaanvragen. Scores variëren van 300 tot 850, waarbij scores in het bereik van 670 tot 739 als een "goede" kredietscore worden beschouwd.

Gensler waarschuwde dat voor degenen die vertrouwen op bevooroordeelde en gebrekkige AI-modellen, "als je een groot deel van de markt afhankelijk maakt van één dataset, er financiële instabiliteit zou kunnen ontstaan... Hoeden zou ons onbedoeld van de afgrond kunnen sturen."

Eerder dit jaar waarschuwde Gensler zelfs dat bedrijven zouden vertrouwen op een paar dominante AI-modellen, wat uiteindelijk de kans op een crisis zou vergroten.