Een interdisciplinair team heeft ontdekt dat modellen voor kunstmatige intelligentie, met name Transformers, het geheugen op een vergelijkbare manier verwerken als de hippocampus van het menselijk brein. Deze doorbraak toont aan dat het toepassen van neurowetenschappelijke principes, zoals het NMDA-receptorprincipe, op kunstmatige intelligentie de geheugenfunctie kan verbeteren, waardoor het veld van kunstmatige intelligentie wordt bevorderd en inzichten worden verkregen in de menselijke hersenfunctie.

Onderzoekers hebben ontdekt dat het geheugenconsolidatieproces van kunstmatige intelligentie vergelijkbaar is met dat van het menselijk brein, vooral de hippocampus, wat de mogelijkheid biedt voor de vooruitgang van kunstmatige intelligentie en een dieper begrip van menselijke geheugenmechanismen.

Een interdisciplinair team van onderzoekers van het Institute for Basic Science (IBS) Center for Cognition and Sociality en de Data Science Group heeft opvallende overeenkomsten onthuld tussen de geheugenverwerking van kunstmatige intelligentie (AI)-modellen en de hippocampus van het menselijk brein. Deze nieuwe ontdekking biedt een nieuw perspectief op geheugenconsolidatie (het proces waarbij kortetermijngeheugen wordt omgezet in langetermijngeheugen) in kunstmatige-intelligentiesystemen.

In de race om kunstmatige algemene intelligentie (AGI) te ontwikkelen, geleid door invloedrijke entiteiten zoals OpenAI en Google DeepMind, is het begrijpen en repliceren van mensachtige intelligentie een belangrijk onderzoeksinteresse geworden. De kern van deze technologische vooruitgang wordt gevormd door het Transformers-model [Figuur 1], waarvan de fundamenten momenteel op nieuwe diepte worden onderzocht.

Figuur 1: (a) Schematisch diagram van ionkanaalactiviteit in postsynaptische neuronen. AMPA-receptoren zijn betrokken bij het activeren van postsynaptische neuronen, terwijl NMDA-receptoren worden geblokkeerd door magnesiumionen (Mg²⁺), maar wanneer postsynaptische neuronen volledig worden geactiveerd, veroorzaken NMDA-receptoren synaptische plasticiteit door de instroom van calciumionen (Ca²⁺). (b) Stroomdiagram dat het berekeningsproces van het Transformer-model voor kunstmatige intelligentie toont. Informatie wordt opeenvolgend verwerkt via fasen zoals feedforward-lagen, laagnormalisatie en zelfaandachtslagen. De grafiek die de stroom-spanningsrelatie van NMDA-receptoren beschrijft, lijkt sterk op de niet-lineariteit van de feedforward-laag. Input-output-grafiek gebaseerd op magnesiumconcentratie (α) die niet-lineaire veranderingen in NMDA-receptoren laat zien. Bron: Instituut voor Basiswetenschappen

Hersenleermechanisme toegepast op kunstmatige intelligentie

De sleutel tot krachtige AI-systemen is begrijpen hoe ze informatie leren en onthouden. Het onderzoeksteam paste de leerprincipes van het menselijk brein, vooral het principe van geheugenconsolidatie via NMDA-receptoren in de hippocampus, toe op het kunstmatige intelligentiemodel.

NMDA-receptoren zijn als een slimme deur in de hersenen en bevorderen het leren en de geheugenvorming. Wanneer een hersenstof genaamd glutamaat aanwezig is, raken zenuwcellen opgewonden. Magnesiumionen daarentegen fungeren als een kleine poortwachter en blokkeren de deur. Pas als deze ionenpoortwachter opzij stapt, kunnen er stoffen de cel instromen. Dit is hoe de hersenen herinneringen creëren en vasthouden, en de rol van de poortwachter (magnesiumionen) in het hele proces is heel bijzonder.

Het team deed een verrassende ontdekking: het Transformers-model lijkt een poortwachterproces te gebruiken dat vergelijkbaar is met de NMDA-receptoren in de hersenen [zie figuur 1]. Deze ontdekking bracht de onderzoekers ertoe te onderzoeken of geheugenconsolidatie in Transformers kon worden gecontroleerd via een mechanisme dat vergelijkbaar is met het NMDA-receptor-gating-proces.

Het is bekend dat lage magnesiumgehaltes de geheugenfunctie in de hersenen van dieren aantasten. Onderzoekers ontdekten dat het langetermijngeheugen van Transformers kon worden verbeterd door NMDA-receptoren na te bootsen. Net zoals veranderingen in het magnesiumgehalte in de hersenen de geheugensterkte beïnvloeden, kan het aanpassen van de parameters van Transformers om de NMDA-receptor-gating weer te geven het geheugen van AI-modellen verbeteren. Deze baanbrekende ontdekking laat zien dat de manier waarop modellen voor kunstmatige intelligentie leren, verklaard kan worden door bestaande kennis uit de neurowetenschappen.

Deskundige inzichten op het gebied van kunstmatige intelligentie en neurowetenschappen

C. Justin LEE, neurowetenschapper en directeur van het instituut, zei: "Dit onderzoek is een cruciale stap in het bevorderen van de ontwikkeling van kunstmatige intelligentie en neurowetenschappen. Het stelt ons in staat dieper te bestuderen hoe de hersenen werken en geavanceerdere kunstmatige intelligentiesystemen te ontwikkelen op basis van deze inzichten."

CHAMeeyoung, een datawetenschapper bij het team en KAIST, merkte op: "In tegenstelling tot grootschalige AI-modellen die enorme hulpbronnen vereisen, werkt het menselijk brein met minimale energie, wat opmerkelijk is. Ons werk opent nieuwe mogelijkheden voor goedkope, krachtige AI-systemen die informatie leren en onthouden zoals mensen."

Integratie van cognitieve mechanismen en ontwerp van kunstmatige intelligentie

Wat dit onderzoek uniek maakt, is dat het proactief door de hersenen geïnspireerde niet-lineariteiten in kunstmatige-intelligentiestructuren integreert, wat een aanzienlijke vooruitgang betekent in het simuleren van mensachtige geheugenconsolidatie. De samensmelting van menselijke cognitieve mechanismen en het ontwerp van kunstmatige intelligentie belooft niet alleen goedkope, krachtige kunstmatige-intelligentiesystemen te creëren, maar biedt ook waardevolle inzichten in hoe de hersenen werken via kunstmatige-intelligentiemodellen.

Samengestelde bron: ScitechDaily