Het verschil tussen Google Car en ABN Amro

Column – De redenering vorige week op deze plek was de volgende: technologie speelt een steeds groter rol in de menselijke besluitvorming, neemt in sommige gevallen zelfs beslissingen namens de mens. Dus is het belangrijk dat wij, mensen, heel goed begrijpen waarom we keuzes maken zoals we die maken. Pas dan kunnen we het aan systemen uitleggen. Dus hebben we meer filosofen nodig.

Als voorbeeld noemde ik de trein. Een trein dreigt vijf mensen dood te rijden tenzij jij de wissel omzet waardoor de trein een andere route volgt waar maar één pechvogel is vastgebonden. Een ander, minder vergaande keuze: past een piloot zijn snelheid aan als iedereen om hem heen harder rijdt, zodat het minder gevaarlijk is? Of houdt hij zich aan de regels, aan de maximum snelheid? Vorig jaar werd getest hoe een Google-car zich gedroeg. En, inderdaad, de auto was geprogrammeerd om de maximumsnelheid met maximaal 10 miles per uur te overtreden als alle auto’s om hem heen sneller gaan. Veiligheid krijgt een hogere indicatie hier dan de strikte regels.

Werk versus interactie

De filosoof Habermas schrijft over de technologie als natuurlijk hulpmiddel om de taken van de mens over te nemen. Om te begrijpen hoe we omgaan met technologie in een moderne samenleving, maakt hij een onderscheid tussen ‘werk’ en ‘interactie’. Het ‘werk’ is er op gericht om een taak te verrichten en wordt bepaald door regels. Bij ‘interactie’ is er veel meer aandacht voor de omgeving.

Google’s ‘driverless car’

In het voorbeeld van de driverless car van Google: het ‘werk’ is er op gericht om de regels te volgen. Stoppen bij stoplichten, je houden aan de maximum snelheid. Dit ‘werk’ is vrij van context, de auto moet zich aan de maximum snelheid houden. De ‘interactie’ daarentegen ziet dat iedereen sneller rijdt. Dat auto’s achter je van baan veranderen. De ‘interactie’ stelt voor om de snelheid aan de anderen aan te passen, want dat is veiliger. Het is vervolgens de vraag waar het systeem toe beslist, ‘werk’ en ‘interactie’ gaan met elkaar in onderhandeling en nemen een geprogrammeerde beslissing.

ABN Amro: werd de omgeving genegeerd?

En terwijl ik dit schrijf, zondagavond, komt het bericht binnen dat de top van de ABN Amro afziet van de salarisverhoging. Los van alle discussies die dit de komende dagen zal losmaken, is het verleidelijk om de parallel met een technologisch systeem te maken.

Aanvankelijk was besloten tot een stijging. De instrumentele benadering, ‘het werk’, kwam tot de conclusie dat het binnen de afgesproken regels mogelijk was om iedere stijging tussen de nul en de twintig procent voor te stellen. Er werd minder gewicht gegeven aan ‘de interactie’, de inschatting van de reactie van de omgeving, de sociale normen, de context.

De één laat de regels winnen, de andere de context

De Google Car kiest voor een veiliger omgeving en negeert de regels, de Bank koos aanvankelijk voor de regels en negeert de omgeving. De Car reageert diametraal anders dan De Bank. Zondag werd het teruggedraaid, De Bank reageerde als De Car.

Filosoof Habermas beschreef hoe technologie mensen en systemen kan helpen om beslissingen te nemen. Een voortdurende afweging tussen werk en interactie, tussen regels en context. De een laat de regels winnen, de andere de context. Misschien heten het daarom wel systeembanken.

Deze column werd eveneens gepubliceerd in Het Financieele Dagblad.

Illustraties met dank aan Fotolia.