Hoe kunstmatig is kunstmatige intelligentie?

Column – 2018 is het jaar van de Blockchain en de AI, zeggen ze. Net zoals als ik blockchain beter wil begrijpen, wil ik ook beter begrijpen wat AI is. Artificial intellingence. Kunstmatige intelligentie. Is het kunstmatig? Wat is intelligentie? Een paar overwegingen over AI.

Intelligentie is een schimmig gebied

Er zijn interessante paradoxen die onderstrepen dat het begrip intelligentie een schimmig gebied is. De eerste is die van de ongerijmdheid. Een voorbeeld: The Donald weet precies wat het is (intelligentie) en dat hij het is (intelligent), getuige zijn eigen uitspraken als “I’m a very intelligent person” en “I guarantee my IQ is much higher than any of these people“. Ander geval, uit zeer betrouwbare bron. In een oriënterend gesprek dat ik had met een kandidaat voor een directiefunctie, wist hij te melden dat zijn IQ hoger dan 150 was.

Beide gevallen (The Donald, de kandidaat) bewijzen dat er geen eensgezindheid is over wat ‘intelligent-zijn’ is. Het lijkt niet intelligent om over jezelf te zeggen dat je superintelligent bent.

Dreigende explosie

De tweede paradox is die van de dreigende explosie. Er is niet zoiets als ‘algemene intelligentie’, stelt AI-onderzoeker François Chollet in Medium. Stel dat je een ultra-intelligente machine definieert als een machine die in staat is om de intelligentie van een mens te overtreffen. De machine is ooit ontworpen door de mens. Dan zou het dus mogelijk zijn dat de superslimme machine zelf een nog slimmere machine ontwikkelt. Er zou sprake zijn van een ‘intelligentie-explosie’, een niet te stoppen proces. En misschien ook wel een bedreiging voor de mensheid.

De gedachte bevestigt overigens de dringende wenselijkheid van een debat over de gevolgen van de intelligentiekracht die de mensheid samen met machines ontwikkelt.

Deep Blue en Stockfish

Blijf je binnen een situationeel domein, dan zie je indrukwekkende groeiscenario’s van slimme systemen. Een veelgebruikt voorbeeld is het schaakspel. We weten het allemaal, IBM’s Deep Blue versloeg ooit Kasparov. De verklaring: Deep Blue is een brute rekenaar.

En toen kwam Stockfish, een programma dat met het allergrootste gemak Deep Blue verslaat. Deep Blue was kracht, Stockfish is kracht gebaseerd op ervaring. De ervaring in de vorm van een enorme database aan schaakpartijen en alle openingstheorieën.

AlphaZero

Volgende speler: AlphaZero, laten we het een denkstroom noemen, afkomstig uit de DeepMind-familie van Google (Alphabet, red.).

Het programma werd verteld hoe de schaakstukken mogen bewegen. Niks meer dan dat. Geen openingstheorieën. Geen honderdduizenden gespeelde partijen. AlphaZero leerde schaken door tegen steeds sterkere versies van zichzelf te oefenen. En oefenen. En oefenen. Met de snelheid van het licht. Het duurde een etmaal. En toen was AlphaZero klaar voor een tweekamp met Stockfish. Honderd partijen werden gespeeld. AlphaZero won er 28. De rest werd remise. Geen partij verloor AlphaZero.

Interessant is dat in haar zelf-studie AlphaZero bepaalde veel gespeelde openingen in het ‘traditionele’ schaakspel steeds minder ging spelen, zo beschreef Chessbase. Voor de kenners: de populaire Franse verdediging en Caro-Kann werden na verloop van tijd niet meer gespeeld. AlphaZero ontwikkelde een voorkeur voor de Engelse opening en voor wat we in de schaakwereld kennen als het Dame Gambiet.

Een korte samenvatting binnen het schaak-domein:

• Deep Blue: machinekracht.
• StockFish: machinekracht met big data.
• AlphaZero: zelflerende algoritmes, blanke lei, geen conventie-hinder. Een bestaand patroon werd niet ter discussie gesteld, maar gewoon niet gekend. Ogenschijnlijk logische openingen werden na verloop van tijd (een paar uur) vermeden.

Ga ont-leren

Een van de lessen voor de mens van de ervaringen van AlphaZero: ga ont-leren. Niets is vanzelfsprekend. Er is inmiddels geen twijfel mogelijk dat iedere topschaker met zijn of haar team AlphaZero gebruikt. Stockfish is out. Er is ook geen twijfel mogelijk dat AlphaZero het zojuist gespeelde TataSteel-toernooi in Wijk aan Zee zou hebben gewonnen als ze had meegedaan.

Het zijn mensen die programmeren

Slecht begrip, artifical intelligence. Wat is er kunstmatig aan? Het zijn mensen die AlphaZero hebben geprogrammeerd. AlphaZero is een model, een programma, een stukje software. Niets meer dan dat. Van een oogstrelende slimheid, begrijp me niet verkeerd.

AlphaZero is in staat om schaakzetten te bedenken die door geen enkel bestaand computerprogramma werden bedacht (lees het artikel in Chessbase, en de analyse over de 5e partij, 21e zet van AlphaZero). En die ook, nadat ze werd aangeboden aan de grootste computerschaakcruncher, niet werden begrepen. Zou een mens dit hebben kunnen bedenken? Het is een cruciale vraag. Wat is de digitale neerslag in programmeerregels van het analoge begrip intuïtie?

Prachtprogramma, AlphaZero. Maar is dit kunstmatige intelligentie?

De Ware Intelligentie

In een poging het overzichtelijk te houden twee uitspraken over De Ware Intelligentie (DWI), als alternatief voor AI.

1. DWI is niet situationeel bepaald.
2. DWI is niet afhankelijk van de volledigheid van informatie.

AlphaZero is een onwaarschijnlijk sterke schaakspeler, maar haar kracht is situationeel bepaald (binnen het schaakspel) en ze beschikt over de volledigheid van informatie. Hetzelfde geldt voor AlphaGo Zero. De successen van de twee maken je bij uitstek nieuwsgierig naar de volgende verschijningsvormen van Alpha. Wat gebeurt er als ze hun vleugels uitslaan buiten situationele kooien als Go en Schaak?

Kunnen we De Ware Intelligentie benaderen?

Is het ooit mogelijk om in de buurt te komen van DWI? DWI onderscheidt zich juist door in verschillende situaties en omstandigheden steeds de juiste keuzes te maken. En er is niet één model dat altijd het beste werkt voor ieder probleem. There Ain’t No Such Thing As A Free Lunch, is het gezegde, ook wel bekend als het acroniem TANSTAAFL.

DWI is niet afhankelijk van de volledigheid van informatie. In de afwegingen die DWI maakt, is er ruimte voor snelle veranderingen, voor onzekerheid en voor onduidelijkheid. De vraag is of deze invloeden in een model kunnen worden gevangen. Het antwoord is bijna per definitie dat dit niet kan. Als je onbekendheid kunt modelleren, is het niet meer onbekend.

Op zoek naar een verbeterde versie van menselijke intelligentie

De volgende vraag die zich nu voordoet is of DWI iets is dat alleen voorbehouden is aan de mens. Wat is het belang van intuïtie? Wat is de rol van beschaving? Je kunt honderdduizend gegevens verzamelen over intuïtie en beschaving, het model zal steeds beter reageren, maar is het ooit in staat typische keuzes te maken waarvan pas later zal blijken dat ze het verschil maakten?

Kunstmatige intelligentie is een lelijk begrip. Ik ben ook de term buitenmenselijke intelligentie tegengekomen. Dat is ook niet wat we zoeken. We zoeken naar een verbeterde versie van de menselijke intelligentie, en de vraag is of die zich ooit laten vangen.