De Britse overheid dwingt bedrijven als OpenAI, Anthropic en Google om de innerlijke werking van hun grote taalmodellen (LLM’s) uit te leggen. Hoewel de code voor sommige modellen openbaar is, zijn modellen als GPT-3.5 en GPT-4 dat niet, en OpenAI is erg terughoudend om veel details te delen.
Groot-Brittannië bereidt zich voor op het organiseren van een nieuwe mondiale top over kunstmatige intelligentie, die regeringen, bedrijven en onderzoekers zal samenbrengen om de risico's van kunstmatige intelligentie te onderzoeken en te bespreken hoe deze kunnen worden verminderd.
Een van de redenen waarom bedrijven terughoudend zijn met het delen van hun interne gegevens is dat dergelijk gedrag bedrijfseigen informatie over hun producten zou kunnen onthullen. Als kwaadwillende actoren meer voorkennis weten, kan dit ook modellen voor kunstmatige intelligentie kwetsbaar maken voor cyberaanvallen.
Volgens de Financial Times is een van de dingen die de overheid wil controleren de modelgewichten, die de sterkte van verbindingen tussen neuronen in verschillende lagen van het model bepalen. Momenteel zijn AI-bedrijven niet verplicht deze details te delen, maar er wordt wel gepleit voor meer transparantie op dit gebied.
Groot-Brittannië zal in november zijn eerste topconferentie houden in Bletchley Park. Bletchley Park neemt een belangrijke plaats in in de computergeschiedenis, aangezien hier de nazi-berichten werden gedecodeerd. De Turingtest met betrekking tot kunstmatige intelligentie is vernoemd naar Alan Turing, die daar ook codes kraakte.
De Financial Times merkte op dat Google's DeepMind, OpenAI en Anthropic er in juni allemaal mee instemden hun modellen open te stellen voor de Britse overheid voor onderzoeks- en veiligheidsdoeleinden. Helaas waren de partijen het destijds niet eens over de omvang en technische details van de opening. Nu is het door de overheid vereiste niveau van openheid vrij hoog.
Om de top succesvol te laten zijn, moeten de deelnemers uiteindelijk volledig begrijpen hoe de modellen werken, zodat ze de gevaren ervan beter kunnen begrijpen. Of zij voldoende toegang hebben tot de modellen is een andere vraag.