Veel mensen zijn bezorgd dat kunstmatige intelligentie zich zal ontwikkelen tot het punt waarop mensen op gevaarlijke wijze de controle over deze systemen verliezen, met gevolgen die kunnen variëren van behoorlijk slecht tot apocalyptisch. Maar de waarschuwingen zijn nog alarmerender als ze afkomstig zijn uit de technologie-industrie, waaronder de CEO van Arm, die zegt dat de situatie hem 's nachts wakker houdt.
Armbaas Rene Haas vertelde Bloomberg dat AI een of andere vorm van schakelaar of achterdeur nodig heeft om het systeem te stoppen. "Waar ik me het meest zorgen over maak, is dat mensen de controle verliezen", zei de baas van het chipontwerpbedrijf toen hem werd gevraagd wat hem 's nachts wakker houdt als hij aan kunstmatige intelligentie denkt.
Haas schat dat 70% van de wereldbevolking op de een of andere manier is blootgesteld aan een door Arm ontworpen product – en van de 1,4 miljard smartphones die elk jaar worden verkocht, gebruikt 99% Arm-ontwerpen of de technologie ervan. Uiteraard is hij geen tegenstander van kunstmatige intelligentie en is hij zich bewust van de rol die Arm zal spelen in de nieuwe technologische revolutie. De CEO zei ooit: "Je kunt kunstmatige intelligentie niet echt gebruiken zonder Arm. Maar we hebben een failsafe nodig."
“Ik denk dat het (kunstmatige intelligentie) zal doordringen in alles wat we doen en in elk aspect van hoe we werken, leven en spelen”, aldus Haas, die vorig jaar CEO werd. "In de komende vijf tot tien jaar zal dit alles veranderen."
Haas is niet de eerste in de branche die zorgen over kunstmatige intelligentie toegeeft. OpenAI-CEO Sam Altman waarschuwde in februari dat de wereld misschien niet ver verwijderd is van ‘potentieel enge’ kunstmatige intelligentie. Het bedrijf ChatGPT waarschuwde in juli ook dat kunstmatige intelligentie, slimmer dan mensen, tot het uitsterven van de mens zou kunnen leiden.
Er is ook xAI-baas Elon Musk, die heeft gesproken over de technologie als een existentiële bedreiging voor de mensheid, en kunstmatige intelligentie-pionier Geoffrey Hinton, die Google in mei verliet vanwege de risico's die de opkomende AI met zich meebrengt. Veel experts en CEO's hebben de gevaren van AI zelfs vergeleken met nucleaire oorlogen en pandemieën. Twee derde van het Amerikaanse publiek maakt zich evenzeer zorgen.
Niet iedereen deelt echter dezelfde zorgen. Professor Yann LeCun, een andere peetvader van de kunstmatige intelligentie, zei dat waarschuwingen dat kunstmatige intelligentie de mensheid bedreigt ‘belachelijk’ zijn. Michio Kaku, een bekende professor in de theoretische natuurkunde, vergeleek generatieve kunstmatige intelligentie met een veredelde bandrecorder.