Het gelijk van Elon Musk: is AI gevaarlijker dan atoomwapens?

Column – Het is voor mij de eerste keer, SXSW, Austin, Texas. De gebeurtenis waar je ooit bij geweest moet zijn. Een wilde verzameling van geeks, nerds, zakenmensen. Ik stel me voor dat ik in de ‘live music capital of the world’ Neil Young in de wandelgangen tegenkom. Elon Musk was er in het echt. Allerlei verschillende tracks worden aangeboden, Music, Interactive, Films, Culture. Tien dagen lang, waarvan ik er vier volgde. Eigenlijk te kort. Geen verslag, wel een korte weergave van enige indrukken.

Douane

Het begint op Schiphol, waar de vooruitgeschoven posten van de Amerikaanse douane hun werk doen. Naast de security-check van koffers en schoenen, mag je ook in de rij staan voor een gesprekje. Een Nederlandse meneer is het die mij de vragen stelt.

Waar ik heen ga. Wat ik er ga doen. Is het zakelijk of privé? En waar gaat u verblijven? Hoe lang denkt u daar te blijven? Ondertussen bladert hij nonchalant in mijn paspoort. Ik ben in 2015 met een personeelsuitje in Marrakech geweest. Het stempel krijgt aandacht. Wat ik daar deed. Zakelijk of privé?

Aardige man, daar niet van. En hij vraagt: “wat vindt u eigenlijk van de sleepwet?”. Twijfel. Niet sterk om nu te zeggen dat je er faliekant tegen bent. Dus zeg ik dat ik de indruk heb dat het degelijk in elkaar gestoken lijkt, met voldoende garanties (heb zelfs checks and balances gezegd, brr) dat er geen misbruik van kan worden gemaakt. Immers, als je niets te verbergen hebt bla bla.

Hij lijkt gerustgesteld. Klapt mijn paspoort dicht. Ik vraag hem: “en u? Wat vindt u eigenlijk van de sleepwet?”. Hij antwoordt dat hij er grote moeite mee heeft. Nooit aan mee doen. Dat hij er absoluut tegen is. Gevaarlijk. Russen. Joden in de Tweede Wereldoorlog.

Waarop ik zeg: “maar u bent wel de hele dag aan het slepen, met dit beroep van u”. Hij: “u heeft gelijk. daarom heb ik ook moeite met deze baan. U kunt doorlopen.”

Elon Musk

Elon Musk zit relaxed op een grote witte stoel. Leren jasje, bontkraagje, zwart T-shirtje, supertof. Hij wordt ondervraagd door Jonathan Nolan. Musk praat langzaam, weloverwogen. Mars is mooi, we gaan er heen, daar moeten bars komen ook. Mars-bars. Grapje.

Of: ik heb geen businessplan. Opmerkelijke uitspraken over AI. AI is veel gevaarlijker dan atoomwapens. Veel bedreigender dan Noord-Korea. “Ik ben normaal gesproken geen aanhanger van welke regulering dan ook, maar er zal echt een publiek lichaam moeten komen om te verzekeren dat wat ontwikkeld wordt binnen AI aan regelgeving zal voldoen. Zodat veilige AI wordt ontwikkeld. Geloof me, we zijn minder slim dan we denken, dat geldt zeker voor AI-experts.”

Paneldiscussies

Wat is dat toch voor hopeloos oubollige vorm van presenteren? De paneldiscussie. Vier of –nog erger- vijf types, in luie stoelen, flesje water in de ene hand, soms nog ouderwetse microfoons in de andere hand, en er wordt wat gemompeld, als het tegenzit door elkaar heen gepraat, een te harde lach met veel valse lucht in de microfoon, dikwijls om een eigen grap.

Dit kan nooit goed gaan, het gaat zelden goed, al was het alleen maar door de achterover hangende houding. Waarom zie je dit overal terug op al die congressen? Kappen met de paneldiscussies. Laat iemand een mooi verhaal vertellen, staand, aan een tafel, naar de zaal gericht. Desnoods een tweede iemand met ook een verhaal, en dan een knetterend tweegesprek als het moet.

Uber Autonomous

Dat is precies de manier waarop Molly Nix van Uber presenteert. Lopend, strakke plaatjes, strak verhaal. Over Uber Autonomous.

Een paar getallen. In Amerika zijn er gemiddeld acht parkeerplaatsen per auto. Dat komt omdat zoveel auto’s stilstaan, en lang niet altijd op dezelfde plaats. Er zijn 1,3 miljoen doden per jaar waarbij in 93% van de gevallen een menselijke fout de oorzaak was.

Vandaar, autonomous cars. Musk had daarvoor nog gezegd dat self driving cars 100 tot 200 procent veiliger zijn dan auto’s die door mensen worden bestuurd. De uitdaging voor Uber: hoe win je het vertrouwen van de mens om in een zelfrijdende auto te stappen? De dialoog is zo duidelijk: je gebruikt je Uber-app, je geeft aan waar je heen wil, de app biedt je een zelfrijdende auto aan, maar je kunt ook kiezen voor een auto met ouderwetse chauffeur. Klik, klik, de auto komt eraan, met of zonder chauffeur.

Molly Nix maakt de vergelijking met de liftboy. Wat deed die eigenlijk helemaal, vroeger? De liftjongen, de liftbediende. Hij vraagt de verdieping, bedient de hendel en stopt op de gewenste verdieping. Hij opent de deur, ook nog. Het duurde even voordat mensen vertrouwen hadden in een lift met knoppen. De chauffeur nu is de liftjongen van toen.

De uitdaging voor Uber

De uitdaging voor Uber: het winnen van het vertrouwen in de zelfrijdende auto. En voor vertrouwen heb je 3 componenten nodig: transparantie, controle en comfort. De passagier moet precies zien waarom de auto rijdt zoals hij rijdt, op een scherm. Alle deelnemers aan het verkeer zijn zichtbaar, in symbolen. Het gebruik van juiste kleuren is belangrijk, leerde gebruiksonderzoek. Het vertrouwen van controle wordt gewekt doordat de passagier altijd in staat wordt gesteld de bewegingen van de auto te beïnvloeden.

De passagiers die er nu al gebruik van maken zijn enthousiast. Nieuwsgierig. Maken selfies in de auto en posten ze. Selfie-promotion voor Uber.

Nix sluit af. Als we nu een totaal nieuwe weg-infastructuur van wegen zouden aanleggen, zou de wereld er veel makkelijker op worden. En ze laat foto’s zien van haar eerste auto, in een oude garage naast haar huis. In Philadelphia, Molly was student. Ze heeft haar auto weggegeven aan een goed doel, haar garage verbouwd tot expositieruimte die ze af en toe verhuurt en ze maakt alleen nog maar gebruik van Uber. Ze is goedkoper uit. Groot applaus.

Op de vlucht terug koop ik Wired. Op de cover een afbeelding van Mark Zuckerberg, met een pleister boven zijn rechteroog. Facebook has been hijacked, vilified and besieged. Gekaapt, belasterd en belegerd, en dat gedurende twee jaar. En nu probeert Mark Zuckerberg het allemaal te repareren, aldus het artikel in Wired. Hij heeft al een memo gestuurd naar al zijn medewerkers om oneigenlijk gebruik aan de kaak te stellen.

Een week later

In Tempe, Arizona steekt een vrouw de straat over. Niet op een oversteekplaats, wat zovelen doen. Ze wordt aangereden door een zelfrijdende Uber en verongelukt. Misschien heeft de auto haar niet herkend als voetganger, en de passagier in de auto zat niet op te letten en nam niet snel genoeg over. In de pers wordt Uber verweten bekend te staan om haar arrogantie. Google, Apple, Uber, ze stoppen allemaal even met hun autonome testauto’s. Ik zou het aantal tests verdubbelen, denk ik dan.

Dezelfde week

Facebook staat onder zware druk. Cambridge Analytica is in staat gebleken om met een vilein appje ‘thisisyourdigitallife’ 50 miljoen profielen uit de kelders van Facebook te trekken. Verkiezingen en referenda zijn ermee beïnvloed. Lange tijd is Mark Zuckerberg niet bereikbaar voor commentaar. Afgelopen week reageert hij woensdagavond laat. Facebook zal de manier waarop ze gegevens van apps deelt met derde partijen aanpassen. Mooi mechanisme. Het antwoord was al in Wired gegeven, een paar weken daarvoor, nog voordat de vraag gesteld was.

De sleepwet in Nederland haalt het niet bij de verkiezingen. Met dank aan Cambridge Analytica.

Musk heeft gelijk.
Er moet een toezicht komen op de werking van AI.
Musk is kansloos.
Toezicht is niet mogelijk.
Musk heeft gelijk.
AI kan gevaarlijker zijn dan atoomwapens.