Op 13 mei meldde Business Insider dat Daniel Kokotajlo, een voormalig OpenAI-onderzoeker en huidig ​​hoofd van het AI Futures Project, zei dat de AI-industrie racet om systemen te bouwen die elk bedrijf nog niet volledig begrijpt of controleert.

Bijschrift: Kokotailo

In een interview met een 'Business Insider'-verslaggever in mei vorig jaar legde Cocotailo uit dat het kernprobleem waarmee AI-bedrijven worden geconfronteerd het 'alignment'-probleem is, dat wil zeggen de inspanningen om ervoor te zorgen dat toekomstige AI-systemen op betrouwbare wijze menselijke instructies en waarden kunnen volgen, zelfs als hun capaciteiten op veel gebieden de mens hebben overtroffen.

Hij zei dat onderzoekers momenteel niet volledig begrijpen hoe geavanceerde AI-modellen intern beslissingen nemen, en dat deze onzekerheid het moeilijk maakt om ervoor te zorgen dat toekomstige systemen echt ‘op één lijn’ zijn en stabiel de doelen bereiken die mensen willen bereiken.

"Het is een soort publiek geheim, maar we hebben nog geen echt haalbare oplossing", zei hij over het implementeren van AI-uitlijning.

Kokotailo verliet het bedrijf nadat hij van 2022 tot 2024 bij OpenAI had gewerkt aan voorspellend onderzoek, waarbij hij bestudeerde hoe snel AI-systemen zich zouden kunnen ontwikkelen en welke economische, politieke en veiligheidsrisico's zouden kunnen ontstaan ​​als bedrijven krachtigere modellen bouwen.

Tegenwoordig richt hij zich via zijn non-profit onderzoeksorganisatie, het Future of AI Project, op soortgelijke onderwerpen, waarbij hij zich richt op het analyseren van hoe snel AI-systemen zich kunnen ontwikkelen en welke risico's zich zullen voordoen als bedrijven prioriteit blijven geven aan snelheid en concurrentie.

“Als superintelligentie eenmaal is gecreëerd, zullen mensen niet langer de leider van deze planeet zijn, althans niet de standaardleider”, aldus Kokotailo.

Cocotailo zei dat veel mensen de snelheid van AI-ontwikkeling nog steeds onderschatten, omdat discussies vaak klinken als sciencefiction. Zijn waarschuwing komt terwijl AI-bedrijven miljarden dollars blijven investeren in krachtigere modellen en grotere datacenters.