Auto’s die beslissen over leven en dood
2026. Max is al 20 jaar autoverkoper en monteur. Over verbrandingsmotoren weet hij alles. Over de electronica weet hij wat er in het boekje staat, en wat zijn tablet hem vertelt als hij hem verbindt aan de boordcomputer van de auto. Dat schermpje is erg intelligent. Max kan er in normaal, of zelfs gebroken Nederlands tegen praten. Z’n hippe device vertaalt dit in een cyber-zoekopdracht en de stroom informatie die terugkomt wordt vanzelf geverifieerd, gecombineerd en in monteur-hap-klare brokken weergegeven. Waar we in de afgelopen decennia al niet gekomen zijn met slimme technologie.
Het merk waarin zijn bedrijf handelt stunt deze week groots. Het is de eerste week dat de software die de bolide volledig auto-noom laat rijden verkocht mag gaan worden. Een dure, luxe wagen, maar ook een betaalbare optie voor Jan Net-boven-modaal. Lekker achterover in je stoel terwijl je auto zelf naar de plaats van bestemming rijdt. Niet alleen het parkeren, niet slechts in de file, maar van A tot Z. En dat op de openbare weg die nog wordt beheerst door menselijke chauffeurs.
De eerste klant komt meteen met interessante vragen. “Is er behalve de luxe nog ander verschil in de auto’s?” Uiteraard komt de luxe variant met een dikker computercluster onder de motorkap. Meer rekenkracht resulteert in snellere beslissingen bij situaties op de weg. “Situaties, zegt u? Zoals dreigende ongelukken?” Uiteraard blijft die dreiging bestaan. De snellere computer ziet vaker net op tijd de dreigende situatie en kan een betere beslissing nemen.
Wat is eigenlijk een betere beslissing? Wanneer de auto moet kiezen tussen hoogstwaarschijnlijk dodelijk onder die vrachtwagen van rechts eindigen, of 100% zeker op een groep kinderen in rijden, wat moet de auto dan kiezen? Kopen mensen een auto die geprogrammeerd is om in bepaalde situaties de eigenaar moedwillig kapot te rijden? Zou de auto moeten inschatten hoeveel levensjaren er overblijven bij de verschillende keuzes, en die waarde maximaliseren? Of minimaliseren?
Het is in veel takken van machine learning goed bekend dat een model valt en staat met de functie die je probeert te optimaliseren. Kies je dat niet juist, dan krijg je een waardeloos model. Het laten uitrekenen wat de beste keus is, is eenvoudig, maar als “beste keus” slecht is gedefinieerd, dan ben je nergens. In het geval van de zelfrijdende auto is het misschien goed als niet de programmeur of eigenaar hoeven te beslissen wie niet levend uit het ongeval komt. Regelgeving lijkt me de oplossing. Ook al zijn we nu in 2016 technisch al heel dichtbij, de wet en de ethische discussie gaan nog decennia nodig hebben voor deze discussie. Max heeft nog wel tot 2040 voordat hij deze software moet verkopen.