Vitalik Buterin, mede-oprichter van Ethereum, gelooft dat als superkunstmatige intelligentie mensen in de toekomst gaat aanvallen, het resultaat de volledige uitsterving van de mensheid zal zijn, en dat er geen overlevenden zullen zijn. “Dit is een extreme uitspraak: ondanks de enorme schade die worstcasescenario’s zoals klimaatverandering, door de mens veroorzaakte pandemieën of een nucleaire oorlog zouden kunnen veroorzaken, zijn er nog steeds veel beschavingseilanden die de stukken intact zullen oppakken”, zei hij maandag in een blogpost.
Zodra de superkunstmatige intelligentie er echter voor kiest om tegen de mensheid in te gaan, kan het resultaat de volledige uitroeiing van de mensheid zijn. “Maar een superintelligente AI zou, als hij zou besluiten ons te verraden, waarschijnlijk geen overlevenden achterlaten en de mensheid voor altijd beëindigen”, schreef hij, in welk geval zelfs Mars geen waarschijnlijk toevluchtsoord voor de mensheid zou zijn.
Buterin pleitte voor een toekomst die ‘menselijke’ kenmerken en keuzevrijheid behoudt. Hij zei: ‘Als we een toekomst willen waarin superintelligent en ‘menselijk’ naast elkaar bestaan – een toekomst waarin mensen niet slechts huisdieren zijn, maar daadwerkelijk een betekenisvolle keuzevrijheid in de wereld behouden – dan voelt zoiets als dit als de meest natuurlijke keuze.
Tijdens een recent evenement sprak Buterin over zijn zorgen over de toekomstige ontwikkeling van Ethereum, waarbij hij onthulde dat zijn twee grootste zorgen de stagnatie van de ontwikkeling van cryptocurrency zijn en de potentiële gevaren die gepaard gaan met kunstmatige intelligentie.
Op de vraag wat hem vaak bezighoudt, noemde Buterin ‘problemen die verband houden met kunstmatige intelligentie’, met name de existentiële risico’s die dit met zich meebrengt.