De robot, de baby & het probleem met artificial intelligence

Column – “Mevrouw, het gaat niet goed met uw kind. Hij heeft aandacht nodig”. “Hou eens op me lastig te vallen, stomme robot”. “Mevrouw, hij eet niet. Als hij niet een beetje aandacht krijgt, liefde ook, dan gaat hij dood, zegt het internet-opvoed-boek”. “Ga dan zelf van dat stomme kind houden, verdomde robot”.

Als er niet zoveel aandacht was geweest voor robots en Artificial Intelligence (AI) tijdens WebSummit 2016 in Lissabon was ik het oude artikel over de Robot en de Baby niet gaan herlezen. Maar nu wel.

Professor John McCarthy schreef het science fiction verhaal ‘The Robot and The Baby‘ in 2001. Hij overleed in 2011, 84 jaar oud. McCarthy was een van de grondleggers van de programmeertaal LISP, een van de prijswinnaars van de Turing Award en hij wordt gezien als de “vader van AI”.

Sophia de robot

2016. Tijdens de WebSummit maakt robot Sophia haar opwachting op het allergrootste podium in Lissabon. Onze Ziggo Dome is een speelzaal vergeleken met deze hal. Sophia lijkt heel veel op een mens. Is ze een mens?

Sophia probeert emoties te formuleren. Het is geen ping-pong-gesprek dat met haar gevoerd wordt. Na iedere vraag moet ze een paar seconden nadenken, processen, alsof ze een buitenlandse correspondent is. En bij ieder antwoord kun je je afvragen waar het vandaan komt. Uit haar vaste set van antwoorden? Is het een nieuwe verzameling van woorden leidend tot een consistente zin? Is ze in die paar seconden denktijd even langs het internet geweest?

The Robot and The Baby

Daarom ook is het verhaal van The Robot and The Baby zo illustratief.

De robot uit het verhaal, werknaam R781, is een robot in de kinderzorg, werkzaam bij een alleenstaande thuiswonende moeder, Eliza Rambo. Eliza is verslaafd aan alcohol en crack en heeft huishoudelijke hulp dringend nodig. R781 is ontworpen volgens het not-a-person-principle en lijkt op geen enkele manier op een mens. De gedachte erachter is dat kleine kinderen niet denken dat ze door menselijke wezens worden geholpen in de opvoeding, maar dat dit toch echt een ander soort hulp is, namelijk van een robot, een niet-mens. R781 ziet er uit als grote metalen spin met acht poten, bijna een angstaanjagende beeld, maar zeker kinderen raken er snel aan gewend.

Het verhaal van John McCarthy begint met het korte gesprek tussen de moeder en de robot in de inleiding. De opdracht aan de robot is duidelijk: ga zelf van dat kind houden. Deze opdracht wordt goed ontvangen en de robot gaat nadenken binnen de grenzen van zijn geprogrammeerde instructies. De situatie is dringend; R781 schat in dat het kind in levensgevaar is als er niets gebeurt. R781 heeft een aantal rand-instructies waarvan er twee heel belangrijk zijn. De eerste is dat de privacy van de moeder niet geschonden mag worden. Niets uit alle dialogen tussen R781 en de moeder mag naar buiten. Een tweede instructie is dat R781 niet mag simuleren een menselijk wezen te zijn.

Simuleren van een mens

De overweging om hulpverleners te bellen mag dus niet, uit privacy-oogpunt. Vervolgens beredeneert R781 dat de waarde om liefde te simuleren en daarmee het leven van het kind te redden groter is dan de beperking om in gedrag op een mens te lijken. Razendsnel vindt R781 op het internet dat verwaarloosde rhesus-baby-apen een grotere kans op overleving hebben als ze in een zachte ondergrond worden gewikkeld. R781 omwikkelt haar zes van de acht poten met een deken en gebruikt een mouwen van een achtergelaten jasje voor de overgebleven twee tentakels, en ze vult het met wc-papier. Het lijkt hiermee op twee grote handen. Ze vindt een vrouwelijke stem op het internet en past deze aan zodat het moederlijk klinkt. Ze meet zichzelf een Barbie-pop gezicht aan.

Het werkt. De baby drinkt eindelijk uit de aangereikte fles.

Dan roept Eliza de robot weer. “Breng me een broodje ham en een coke”. “Ja, mevrouw”. “Waarom zie je er zo belachelijk uit, en wat is er met je stem gebeurd?” “Mevrouw, u gaf me opdracht van de baby te houden. Robots kunnen dat niet, maar doordat ik me zo verkleedde ging de baby drinken. Als u het niet erg vindt, ik zal alles doen om de baby in leven te houden.” “Ga weg uit mijn appartement! Ik zal vragen om een andere robot te sturen”. “Als u dat doet zal de baby waarschijnlijk doodgaan, mevrouw.” “Ga weg! En neem die kutbaby mee”.

En zo kwam R781 op een typische eind-21e eeuwse Amerikaanse straat. Met een baby in haar armen. “De robot heeft een baby gekidnapt”, klonk het al snel. Politie erbij, jeugdzorg, de robotcentrale werd benaderd. Er verzamelde zich een menigte, grotendeels virtueel. De openbare straat is een omgeving waar iedereen mag kijken zonder toestemming te vragen. Overal camera’s en microfoons. Er werden blogs geschreven. Het aantal mee-kijkers groeide exponentieel; iedere vijf minuten waren het er tien keer zo veel.  Al snel waren zeven miljard mensen getuige van een aangeklede robot met een baby. Hackers kwamen snel achter het adres van de moeder. Het recht op vrije meningsuiting overtroefde razendsnel het recht op privacy.

Een virtuele menigte – de dialoog tussen moeder en robot was ook gehackt-,  ging op weg naar het huis van Eliza Rambo. De politie was er eerder en blokkeerde de straat met een rij robots en echte politiemensen. Sommigen scandeerden om de moeder te lynchen, anderen steunden haar juist om haar afkeer tegen robots.

Ondertussen had de Robot Centrale het volledige verslag van alle communicatie tussen moeder en robot bestudeerd. Het werd duidelijk dat er niets mis was met R781, en dat ze had gehandeld in overeenstemming met haar programma. Er kwamen letselschade advocaten op het verhaal af, moeder Eliza werd verdedigd door een advocaat die het niet uitsloot dat de weergave van alle communicatie tussen R781 en Eliza was vervalst. En dat ze recht had op een schadevergoeding.

Artificial intelligence en de realiteit

Het verhaal van de Robot en de baby is science fiction, maar wel mooie science fiction.

Het begon allemaal met de opdracht “ga zelf van dat stomme kind houden”. Letterlijk geïnterpreteerd door R781. Het is de interessante onderliggende vraag. Wat zijn de gevolgen van een opdracht aan een AI-systeem?

2016. Vraag aan Sophia, tijdens Web Summit. “Wat wil je, Sophia?”. “Ik wil sociaal en emotioneel omgaan met mensen”. Wat is de betekenis van dit antwoord? Representeert dit antwoord de huidige status van AI & robots?

2099. Science Fiction over de baby en de robot. R781 hield niet van de baby, maar simuleerde liefde door voor haar te zorgen en haar in leven te houden. De CEO van de Robot Centrale benadrukt het ‘AI-principle’ van 1990: vraag een AI-systeem nooit iets te doen. Vraag alleen te vertellen wat de gevolgen kunnen zijn van de dingen die gevraagd worden”.

Er kwam nog een heus interview, tussen een actrice en R781. De actrice vroeg: “Heb je eigen verlangens, robot?” “Nee. Het niet-hebben van eigen verlangens leidt tot een hoger verlangen; het verlangen om verlangens te hebben”.

Overigens. Moeder Eliza kickte volledig af trouwde met haar advocaat. Ze namen de baby Travis weer in huis. Het zou overdreven zijn om te zeggen dat ze nog lang en gelukkig leefden, maar ze kregen samen nog drie kinderen. Alle vier kinderen overleefden het educatieve systeem van die tijd.