Marcus is van mening dat er op het gebied van zelfrijdende auto’s nog ‘edge cases’ zijn die nog niet zijn opgelost en niet 24 uur per dag op de weg getest mogen worden.Een artikel in de New York Times uit 2016 over zelfrijdende auto's begon: "Het tijdperk van zelfrijdende auto's is aangebroken, en sommige autofabrikanten hebben miljarden dollars geïnvesteerd in onderzoek en ontwikkeling ... en zijn begonnen met testen in sommige steden in de Verenigde Staten." Zeven jaar zijn verstreken: waar is zelfrijdend autorijden gebleven?

Gary Marcus, emeritus hoogleraar psychologie en neurowetenschappen aan de Universiteit van New York, bracht enkele standpunten op dit gebied naar voren. Hij zei dat er nog steeds een probleem is in het veld, een probleem dat Marcus de afgelopen jaren tientallen keren heeft benadrukt, namelijk randgevallen, de niet-routinematige situaties die machine learning-algoritmen vaak in verwarring brengen.

Hoe complexer de situatie van zelfrijdende auto’s, hoe meer onverwachte afwijkingen er zullen zijn. En de echte wereld is complex en chaotisch, en we kunnen niet alle mogelijke niet-routinematige gebeurtenissen opnoemen die zich kunnen voordoen. Niemand heeft nog ontdekt hoe je een zelfrijdende auto kunt bouwen die met dit feit om kan gaan.


Marcus zei dat de eerste keer dat hij de nadruk legde op de grote uitdagingen die randgevallen met zich meebrengen voor autonoom rijden, in een interview in 2016 was. "Destijds was ik de hype beu en gaf ik deze visie uiteindelijk op. Als ik dit transcript nu herlees, denk ik dat het nu nog steeds van toepassing is."

De technologische vooruitgang die we nu zien, wordt grotendeels aangedreven door grootschalige brute force-kraaktechnieken, zoals de supercomputer Deep Blue en het Atari-spelsysteem. De ontwikkeling van deze technologieën maakt de mensheid enorm opgewonden. Tegelijkertijd, als je het hebt over robots voor huizen of robots die door de straat rijden, is de opwinding niet zo groot.

Over het algemeen presteren zelfrijdende auto’s onder normale omstandigheden goed, bijvoorbeeld als ze veilig rijden op zonnige dagen. Maar als ze in complexe omgevingen zoals sneeuw en regen worden geplaatst, wordt autorijden zonder bestuurder zeer slecht. Eerder schreef de Amerikaanse journalist en redacteur Steven Levy een artikel over het autonoom rijden van Google. In het artikel werd vermeld dat Google in 2015 een grote overwinning behaalde, en deze overwinning was dat het systeem automatisch bladeren kon identificeren.

Het identificeren van bladeren is te simpel voor mensen, maar het zou een grote vooruitgang zijn voor zelfrijdende auto’s. Mensen kunnen hun gezond verstand gebruiken om te redeneren en erachter te komen wat dit ding zou kunnen zijn en hoe het daar terecht is gekomen, maar een zelfrijdend systeem onthoudt gewoon iets en mist redenering, en dat is de beperking waarmee zelfrijdende auto's worden geconfronteerd...

Mensen hebben uitgekeken naar meer volwassen zelfrijdende technologie. Nog maar een paar dagen geleden heeft de California Public Utilities Commission de zelfrijdende autobedrijven Cruise en Waymo goedgekeurd om 24/7 in San Francisco te opereren. Deze beslissing geeft de twee bedrijven meer speelruimte om hun auto's te testen. Nadat het nieuws bekend werd gemaakt, zeiden veel mensen dat het tijdperk van zelfrijdende auto's is aangebroken, ook al is dat later dan verwacht.


In feite hebben we nog geen echt zelfrijdende auto’s, en zoals Cade Metz, een bekende Amerikaanse journalist, een paar maanden geleden in mijn podcast ‘Humans vs. Machines’ uitlegde, zal elk zelfrijdend voertuig op de openbare weg ofwel een menselijke veiligheidschauffeur hebben, ofwel een mens die op afstand toezicht houdt om het voertuig uit de problemen te helpen.

Nu ontstaan ​​er nieuwe randgevallen op het gebied van autonoom rijden, zoals een Tesla die tegen een geparkeerd vliegtuig botst.


Marcus zei dat, ongeacht met hoeveel data deze systemen worden getraind, er altijd nieuwe situaties zullen ontstaan.

Onlangs verloren nog eens tien zelfrijdende auto’s het contact met het missiecontrolecentrum. Zonder toezicht van het controlecentrum raakten zelfrijdende auto’s verdwaald, stopten ze midden op straat en kwamen er nog veel meer ongelukken voor:

Het vakgebied van autonoom rijden verandert voortdurend, waardoor veel onderzoekers, waaronder Marcus, de aanpak van de California Public Utilities Commission niet begrijpen.

Het zou krankzinnig zijn om zelfrijdend rijden overal en op elk moment te testen zonder een rigoureuze, zorgvuldig doorgelichte oplossing om randgevallen aan te pakken. Dit geldt niet alleen voor zelfrijdende auto’s, maar ook voor andere gebieden die gebaseerd zijn op machinaal leren.

Edge-gevallen zijn overal, en iedereen die denkt dat het allemaal gemakkelijk op te lossen is, houdt zichzelf voor de gek.

We moeten ons management aanscherpen, en als we dat niet doen, kunnen we de komende jaren grote ongelukken zien met zelfrijdende auto’s, geautomatiseerde artsen, universele virtuele assistenten, thuisrobots en meer.

Aan het einde van het artikel verklaarde Marcus dat hij dit artikel had voltooid in een vliegtuig uitgerust met een automatische piloot. Tijdens de 9 uur durende vlucht werkte de automatische piloot de hele tijd, en tijdens deze periode waren er ook mensen bij betrokken, wat een mens-in-the-loop vormde. Uiteindelijk denkt Marcus niet dat er autonome vliegtuigen zullen zijn, en hij denkt ook niet dat er al quasi-autonome auto’s zijn goedgekeurd.