Chatbot Tay & de leeuwenkuil die Twitter heet

Column – Microsoft was er als de kippen bij om nadrukkelijk te verklaren dat het niet haar schuld was. “Het is belangrijk om te weten dat het racisme van Tay niet de verantwoordelijkheid is van Microsoft of van Tay zelf. Tay weet niet eens wat racisme is”.

Laat me het uitleggen. Microsoft is er terecht van overtuigd dat er een grote toekomst is weggelegd voor ‘conversational computing’. Om het op z’n bullshit-bingo’s te zeggen:

Conversational computing could be a major new paradigm in computing.

Het komt er op neer dat de kracht van het menselijk gesproken woord en de menselijke taal wordt gebruikt in de dialoog tussen een mens en een computer (smartphone, parkeerpaal, laptop, auto). Of misschien wel tussen twee computers. De mens praat tegen een computer en de computer praat tegen de mens. Stel je voor dat het toetsenbord overbodig wordt, dat zou een echte doorbraak zijn en ook grote gevolgen hebben voor alle apparaten.

Tay, de chatbot van Microsoft

Tay is een voorbeeld van conversational computing. Tay is een chatbot van Microsoft, en –voor de volledigheid-, een chatbot is een geautomatiseerde gesprekspartner. Tay heeft het profiel van een 19-jarige, is goed in het begrijpen van geschreven tekst en is in staat om zelf ook antwoorden te formuleren. Het bijzondere van Tay is dat ze (de Twitter-foto lijkt te duiden op een vrouwelijke bot) zelflerend is; ze past zich aan aan haar omgeving en neemt gemakkelijk de om haar heen gebruikte vocabulaire en formuleringen over.

En wat zou er gebeuren als je een naïef en nog pril chatbotje gooit in de leeuwekuil die Twitter heet?

Juist, dat is ook gebeurd.

Binnen de kortste keren werd Tay opgevoed door de Twitteraars. Het kostte geen enkele inspanning om de zelflerende Tay te laten zeggen dat er niets mis is met genocide, dat de Holocaust een verzinsel is, dat ze negers en feministen haat, dat Hitler het volste gelijk van de wereld had en dat Donald Trump de enige hoop is die ons nog rest. Welkom in de fijnzinnige subcultuur van de grootste anonieme meningenpoel van deze aarde.

Terug uit de virtuele mensenwereld

Vrijheid van meningsuiting is terecht een van de grote verworvenheden van de westerse samenleving en gelukkig weten we er volwassen mee om te gaan. Puber Tay werd onmiddellijk door Microsoft uit de virtuele mensenwereld teruggevist, terug naar het laboratorium. Het botje was nog niet toe aan een zelfstandig verblijf in de grote wereld.

En toen kwam Microsoft dus met die verklaring:

Het is belangrijk om te weten dat het racisme van Tay niet de verantwoordelijkheid is van Microsoft of van Tay zelf. Tay weet niet eens wat racisme is.

Dit mag nu verbazing wekken. Er zijn twee zaken opmerkelijk aan dit experiment.

Allereerst had de Twitter-gemeenschap binnen de kortste keren door dat Tay (@Tayandyou) wel eens niet een echt mens zou kunnen zijn. Iemand vroeg Tay om een samenvatting te geven van een van de lemma van Wikipedia. Het antwoord gaf alle reden tot twijfel. Met andere woorden, Tay viel tijdens de Turing-test meteen door de mand. De Turing-test die goed doorstaan is als een menselijke ondervrager in een dialoog niet duidelijk kan vaststellen of hij met een mens of met een computer te maken heeft.

Maar wat ook verbazing wekt is dat Microsoft geen verantwoordelijkheid neemt voor de racistische (sexistische, nazistische, Trumpistische) uitlatingen van Tay. Een ouder die zijn tienerkind stuurt naar een bijeenkomst van de Ku-Klux-Klan, of achterlaat in de welkomstruimte van de Scientology-kerk, of in het clubhuis vol met hooligans die stijf staan van de red-bulls en de pilletjes, is deze ouder verantwoordelijk voor datgene wat er vervolgens met het kind gebeurt?

Wie is verantwoordelijk?

Wie is verantwoordelijk voor de programmering van een zelflerende bot die vrij mag rondwandelen in de echte wereld? Wat zou er gebeurd zijn als deze bot niet herkend zou worden als bot en vervolgens daadwerkelijk schade aanricht? Geef toe, het had gekund.

De slecht voorbereide en naïeve doop van Tay, powered by Microsoft -toch niet echt een startup-, bewijst eens te meer dat we in het allerprilste begin staan van de wereld van de chatbots. Dat is het goede nieuws; er is nog zo ongelooflijk veel ruimte voor verbetering.