Onderzoekers van de Johns Hopkins University, de Universiteit van Oxford, Stanford University, Columbia University en New York University roepen op tot bescherming tegen bepaalde gegevenssets over infectieziekten waarmee kunstmatige intelligentie dodelijke virussen zou kunnen ontwerpen. De waarschuwing benadrukt een ernstig over het hoofd gezien veiligheidsprobleem in de ontwikkeling van kunstmatige intelligentie.
De onderzoekers wijzen erop dat zodra biologische gegevens met een hoog risico zich op het open web verspreiden, deze niet langer kunnen worden teruggenomen. Dit betekent dat zelfs als er in de toekomst relevante regelgevende regelgeving wordt ingevoerd, als de gevaarlijke kennis zelf op grote schaal is verspreid, alle regelgevende maatregelen ineffectief zullen zijn. Deze onomkeerbaarheid maakt het beheer en de controle van bioveiligheidsgegevens bijzonder urgent en complex.
Momenteel neemt, met de snelle ontwikkeling van kunstmatige-intelligentietechnologie, en vooral de steeds diepgaandere toepassing ervan op biomedisch gebied, ook het vermogen van AI-systemen om risicovolle biologische gegevens te verwerven en te verwerken voortdurend toe. Onderzoekers maken zich zorgen dat als er geen passende toegangsbeperkingen en veiligheidsmaatregelen worden genomen voor deze gevoelige datasets, kwaadwillende actoren AI-technologie kunnen gebruiken om ziekteverwekkers te manipuleren of aan te passen om zeer besmettelijke of dodelijke biologische bedreigingen te creëren.
De oproep weerspiegelt diepgaande academische zorgen over de risico’s van AI voor tweeërlei gebruik. Hoewel het open delen van wetenschappelijke gegevens van cruciaal belang is voor de vooruitgang van medisch onderzoek en de volksgezondheid, kan bepaalde potentieel gevaarlijke biologische informatie catastrofale gevolgen hebben als deze in verkeerde handen valt. Daarom is het vinden van een evenwicht tussen het bevorderen van wetenschappelijke vooruitgang en het waarborgen van de biologische veiligheid een sleutelprobleem geworden dat moet worden opgelost op het gebied van AI-governance.