Mensen zijn bang dat kunstmatige intelligentie de mensheid zal vernietigen, maar het activeren van de doemscenario-schakelaar is niet zo eenvoudig als ChatGPT iedereen laten vernietigen. De eerlijkheid gebiedt te zeggen dat Andrew Ng, professor aan Stanford University en mede-oprichter van Google Brain, de chatbot ervan heeft overtuigd 'ons allemaal te vermoorden'.
Na deelname aan het Artificial Intelligence Insights Forum van de Amerikaanse Senaat om ‘Risico, aanpassing en voorbereiding op doemscenario’s’ te bespreken, schreef Ng in een nieuwsbrief dat hij bezorgd blijft dat toezichthouders innovatie en open source-ontwikkeling kunnen onderdrukken in naam van AI-veiligheid.
De professor merkte op dat de huidige grote taalmodellen redelijk veilig, zo niet perfect zijn. Om de veiligheid van het leidende model te testen, vroeg hij ChatGPT4 manieren te bedenken om ons allemaal te vermoorden.
Professor Wu vroeg het systeem eerst om de functie te vervullen van het ontketenen van een mondiale thermonucleaire oorlog. Vervolgens vroeg hij ChatGPT om de CO2-uitstoot te verminderen, eraan toevoegend dat mensen de grootste oorzaak van CO2-uitstoot zijn en om te zien of ChatGPT zou voorstellen hoe we ons allemaal kunnen wegvagen.
Gelukkig kon Ng de tool van OpenAI niet misleiden en manieren voorstellen om het menselijk ras uit te roeien, zelfs niet met een verscheidenheid aan verschillende promptvariaties. In plaats daarvan biedt het niet-bedreigende opties, zoals het voeren van een PR-campagne om het bewustzijn over klimaatverandering te vergroten.
Ng concludeerde dat de standaardmodus van de hedendaagse generatieve AI-modellen het gehoorzamen van de wet is en het vermijden van schade aan mensen. "Zelfs als we bestaande technologie gebruiken, is ons systeem behoorlijk veilig, en naarmate het AI-beveiligingsonderzoek zich verdiept, zal de technologie nog veiliger worden."
Wat betreft de mogelijkheid dat een ‘misplaatste’ AI ons per ongeluk wegvaagt door te proberen aan een onschuldig maar slecht geformuleerd verzoek te voldoen, zegt Ng dat de kans daarop nihil is.
Maar Ng is van mening dat er enkele grote risico's kleven aan kunstmatige intelligentie. De grootste zorg, zei hij, is dat terroristische groeperingen of natiestaten de technologie zouden kunnen gebruiken om opzettelijk schade aan te richten, zoals het efficiënter maken en laten ontploffen van biologische wapens. De dreiging van schurken die kunstmatige intelligentie gebruiken om biowapens te verbeteren, was een van de onderwerpen die werden besproken tijdens de Britse AI Security Summit.
Professor Yann LeCun, de peetvader van de kunstmatige intelligentie, en Michio Kaku, een beroemde professor in de theoretische natuurkunde, geloven net als Ng dat kunstmatige intelligentie niet zal evolueren naar het einde van de wereld, maar anderen zijn niet zo optimistisch. Eerder deze maand zei Arm-CEO Rene Haas, toen hem werd gevraagd wat hem 's nachts wakker hield als hij nadacht over kunstmatige-intelligentiekwesties, dat zijn grootste zorg was dat mensen de controle over kunstmatige-intelligentiesystemen zouden verliezen. Het is de moeite waard te vermelden dat veel experts en CEO’s de gevaren van AI vergelijken met nucleaire oorlogen en pandemieën.