Tussen doemscenario en utopie: zo kan AI er in 2035 uitzien

In het debat over de toekomst van artificiële intelligentie (AI) lijken er maar twee smaken te bestaan: de utopie en de dystopie. Zijn er niet meerdere varianten denkbaar?

Zulke uitersten werken veel beter in films en krantenkoppen. Maar het heeft ook te maken met het idee dat hoewel de kans relatief klein is dat het ooit zal gebeuren, de mogelijke impact zo groot kan zijn dat deze wel enige reflectie verdient.

Dat geldt zowel voor de utopische visie (we hoeven nooit meer te werken) als de dystopische (we worden slaaf van de technologie).

Maatschappelijke context

De focus ligt hierbij vaak op de ontwikkeling van de technologie zelf. De wijze waarop AI in de toekomst zal worden ingezet, is echter sterk afhankelijk van de maatschappelijke context. Dit gaat dus niet alleen over de prestaties van de technologieën en de beschikbaarheid van resources, maar ook over strategische belangen en maatschappelijke acceptatie.

Wat vaak over het hoofd wordt gezien, is dat we deze context zelf creëren. De keuzes die we in het heden maken hebben grote invloed op de mogelijke toekomsten.

Many researchers will tell you that the heaven-or-hell scenarios are extremely unlikely. We’re not going to get the AI we dream of or the one that we fear, but the one we plan for. Design will matter — Stephan Talty

Alternatieve realiteiten

Er bestaan dan ook meerdere smaken. Het is daarom van belang om meerdere alternatieve realiteiten te onderzoeken. Toekomstscenario’s kunnen worden ingezet om met een open blik na te denken over de toekomst. Voor veel mensen is het lastig om af te stappen van een dominant toekomstbeeld, dat vaak wordt gevoed door optimisme of pessimisme. Door op een methodische wijze naar een meer genuanceerd palet van mogelijke toekomstvisies te kijken, ontstaat vaak meer begrip voor alternatieve zienswijzen.

Toekomstscenario’s kunnen ons helpen om te anticiperen op de kansen en uitdagingen die voor ons liggen. Het maakt de toekomst meer tastbaar en daarmee voorstelbaar. Ook helpt het mensen om na te denken over welke onderdelen van deze scenario’s wenselijk zijn. Op deze wijze kunnen de mogelijke paden die naar dit gewenste beeld leiden in kaart worden gebracht.

If we want to understand our future, cracking genomes and crunching numbers is hardly enough. We must also decipher the fictions that give meaning to the world — Yuval Noah Harari

Op basis van een uitgebreid onderzoek (literatuurstudie, expertinterviews en scenarioworkshops) werkte de Stichting Toekomstbeeld der Techniek 5 verschillende toekomstscenario’s uit. Er is gekozen om het tijdsbeeld te plaatsen op het jaar 2035. Dit jaartal is overigens niet bedoeld om concrete voorspellingen te doen. Het doel is juist om verschillende toekomsten te kunnen voorstellen, niet om een toekomstbeeld te voorspellen.

1. Game Over

De beperkte beschikbaarheid aan resources zorgt er in het scenario van Game Over voor dat de prestaties van de technologieën achter zijn gebleven. Overheden en organisaties investeren niet langer in AI. Er ontstaat een nieuwe AI-Winter. De belofte die AI ooit was, wordt niet waargemaakt.

Implicaties

Verschillende angsten omtrent extreme ongelijkheid en afhankelijkheid zijn ons in het scenario van Game Over bespaard gebleven. De mens heeft de controle behouden en complexe aansprakelijkheidsvraagstukken (waar we mogelijkerwijs toch niet samen uit zouden komen) vragen niet langer onze aandacht. Ook geopolitieke spanningen die de AI rat race veroorzaakten zijn verminderd.

Daarmee is echter ook de potentie die AI in zich had onbenut gebleven. Corruptie, verkeersdoden, foutieve diagnoses en onterechte rechtsuitspraken als gevolg van menselijk toedoen blijven daarmee aan de orde van de dag. We verweten AI-systemen dat ze biases bezaten en daarmee voor ongelijkheid zorgden, maar dat is uitsluitend omdat de data die als input werd gebruikt menselijke vooroordelen bevatte.

In plaats van met de vinger naar onszelf te wijzen en onze eigen tekortkomingen proberen te verhelpen, wezen we met de vinger naar de technologieën.

2. The winner takes all

De behoefte aan controle en regulatie leidt er in het scenario van The winner takes all toe dat AI hoofdzakelijk wordt ingezet als tool om menselijke intelligentie te vergroten, oftewel augmented intelligence. Geopolitieke belangen zorgen echter voor spanningen. Overheden doen er alles aan om niet op achterstand te komen. Wie gaat de rat race om AI winnen?

Implicaties

Als het scenario van The winner takes all daadwerkelijk leidt tot één winnaar, lopen we als Nederland het risico om ‘alles’ te verliezen. We worden dan niet langer als kennisland gezien, onze universiteiten hebben geen toegevoegde waarde meer en onze mensen zijn niet meer nodig. De spaarzame AI-talenten die we overhouden, worden weggekocht door internationale tech-bedrijven en er ontstaat een heuse braindrain.

Banen en bedrijven verdwijnen. We kunnen hierdoor compleet afhankelijk worden van internationale private organisaties. De winnaar zou volgens deze redenatie volledige werelddominantie verkrijgen. Als je ergens de beste in bent, dan kun je complete markten overnemen. De culturele verschillen zijn echter te groot om dit zonder conflicten te laten passeren. Daar waar bijvoorbeeld China gelooft dat welvaart ontstaat wanneer de overheid ruim baan krijgt, gelooft Amerika er juist in dat welvaart ontstaat wanneer de markt de vrije hand krijgt. Geopolitieke spanningen lopen hierdoor hoog op.

3. Privacy for sale

Het streven naar automatisering leidt er in het scenario van Privacy for sale toe dat de mens op verschillende gebieden wordt vervangen door AI, oftewel substituted intelligence. De democratie verandert in een algocratie. Mensen zien in dat alle data die ze hebben afgestaan ook tegen hen gebruikt worden, waardoor een tegenbeweging ontstaat. Privacy wordt steeds meer een luxeproduct.

Implicaties

De scheidslijn tussen gewenste en ongewenste gevolgen is in het scenario van Privacy for sale flinterdun. Enerzijds zorgt de hoge mate van automatisering voor een enorme efficiëntieslag, anderzijds raken we in steeds meer domeinen de controle kwijt en zorgt AI voor een enorme mate van ongelijkheid in de samenleving. Het is daarbij lastig om in te schatten op welke wijze autonome systemen zich gaan gedragen als deze aan elkaar gekoppeld worden.

Ook wanneer AI met kleinere hoeveelheden data kan werken of data in real time kan verwerken, dan nog zal er een bepaalde afhankelijkheid van data bestaan. Een aaneenkoppeling van systemen kan dit effect versterken. Hierdoor kan dan een soort ‘kastensysteem’ ontstaan, waarin mensen op basis van hun data worden ingedeeld in groepen, inclusief bijbehorende kansen (of het ontbreken daarvan). Mensen kunnen deze groepen nauwelijks nog ontstijgen, tenzij ze genoeg geld hebben om off the grid te leven. Efficiënte oplossingen zijn dus niet altijd maatschappelijk wenselijk.

4. Robot Rights

Wetenschappers en ontwikkelaars verleggen in het scenario van Robot Rightsde focus naar de complementaire eigenschappen van menselijke en kunstmatige intelligentie, oftewel hybrid intelligence. Mens en machine werken en leven op een gelijkwaardige manier samen. Machines worden aansprakelijk gesteld voor hun gedrag en AI wordt als entiteit erkend en verkrijgt rechten en plichten, oftewel e-personhood.

Implicaties

Het erkennen van AI-systemen als rechtspersoon heeft in het scenario van Robot Rights de nodige implicaties. Om gelijkwaardig te kunnen samenwerken en leven, zijn ook gelijkwaardige rechten en verantwoordelijkheden noodzakelijk. De vraag is of mens en machine daadwerkelijk gelijke rechten en plichten moeten krijgen. Hoewel de intelligentie van mens en machine complementair is, is het gedrag dat niet per definitie.

Daar waar de mens van nature een samenwerker is, is een machine dat in de basis niet. Je kunt een intelligent systeem weliswaar regels voor sociaal wenselijk gedrag aanleren. Dat betekent alleen nog niet dat ze ook in staat zijn om zich bewust te zijn van de context waarin ze zich bevinden. En te beseffen welke handelingen in zo’n context wel of niet sociaal en moreel acceptabel zijn. Dus ook al worden emoties aangeleerd, dan wil dat niet zeggen dat sociale regels door intelligente machines daadwerkelijk geïnternaliseerd kunnen worden.

5. The Singularity is here

De technologische droom van het kopiëren van menselijke intelligentie is in het scenario van The Singularity is herebehaald. AI overstijgt menselijke intelligentie op alle domeinen, oftewel transcended intelligence.

De wereld wordt aangestuurd door systemen die controle uitoefenen op verschillende domeinen. Hoewel de systemen bijdragen aan meer gelijkwaardigheid, proberen mensen zich te ontdoen van de controle.

Implicaties

Het doemscenario van kwaadaardige technologieën die de mens tot slaaf maken, is in het scenario van The Singularity is here grotendeels ongegrond gebleken. Door de ontstane monocultuur is de samenleving gelijkwaardiger en zijn maatschappelijke uitdagingen, zoals het klimaatprobleem, oorlogen en armoede bestreden. Welvaart is beter verdeeld en veiligheidsrisico’s zijn door intelligente systemen teruggebracht.

In combinatie met het basisinkomen hebben we meer vrije tijd en is er meer ruimte voor zingeving. Ondanks de grote voordelen van deze kennisgebaseerde samenleving is er veel onvrede. Objectieve besluiten zijn niet altijd in lijn met menselijke emoties. Daarbij zorgt de vergevorderde automatisering ervoor dat menselijk contact steeds kostbaarder is geworden, wat niet door iedereen bekostigd kan worden. Eenzaamheid is daardoor een van de grootste ziekten van deze tijd. Mensen voelen zich gevangen in het systeem en snakken naar autonomie.

Wil je weten welk scenario jij zelf voorziet? Doe dan nu de gratis online scenario-test!

Wat voor samenleving willen we zijn?

Uiteindelijk zal er een toekomst ontstaan die elementen bevat van al deze visies, afhankelijk van het toepassingsdomein en de maatschappelijke context. Door de komst van nieuwe generaties zullen andere normen en waarden ontstaan. Begrippen als transparantie en uitlegbaarheid zijn daardoor aan verandering onderhevig.

Misschien gaan we wel accepteren dat AI biased is. De uitdaging zit dan meer in het eerlijk verdelen van oneerlijkheid. Wat we hierbij niet moeten vergeten is dat AI zelf niet goed of slecht is, het gaat erom hoe het door mensen wordt ingezet. De vraag is dus wat voor samenleving we met alle technologische ontwikkelingen willen zijn. De maatschappij zal hoe dan ook fundamenteel veranderen en AI kan ons helpen om het juiste pad te vinden. We moeten alleen nog wel uitvinden waar we dan precies naar toe willen.

De inzichten uit dit artikel komen voort uit een uitgebreide toekomstverkenning naar AI, verzameld op detoekomstvan.ai