Black Mirror geanalyseerd: absurde fictie of beangstigende toekomst?

Recent is op Netflix het derde seizoen van de immens populaire en soms ook controversiële serie Black Mirror uitgekomen. Kenmerkend voor deze serie is de terugkerende thematiek waarbij fictieve technologie in een nabije toekomst een grote rol speelt. In dit artikel zoom ik in op enkele highlights en kijk hoe lang het nog duurt voordat deze concepten misschien wel tot de werkelijkheid behoren. Je staat soms versteld van hoe dichtbij we al zijn.

LET OP! Dit hele artikel bevat spoilers. Heb je de serie of het laatste seizoen nog niet bekeken? Ga dan nu chillen op je bank, bed of waar dan ook en begin met kijken!

Al sinds de allereerste aflevering uit 2011 ben ik een enorme fan van Black Mirror en probeer ik deze serie regelmatig te promoten onder kennissen, vrienden, collega’s of anderen. Vaak is de aanleiding om over Black Mirror te beginnen een actualiteit op het gebied van nieuwe technologie en discussies over de ethische kanten daarvan. Maar ook nieuwsberichten over David Cameron en zijn vermeende liefde voor varkens tijdens zijn studententijd zal iedereen die Black Mirror gezien heeft, hebben doen fronsen.

Met name onder mensen die zelf dag in dag uit bezig zijn met nieuwe (social) media, webdesign en technologie in het algemeen, is de serie zeer populair. Dat komt mede doordat vrijwel elke aflevering een soort ‘what if’ scenario schetst, waarbij we als kijker meegenomen worden in een wereld die lijkt op onze huidige wereld, maar dan net iets verder in de toekomst. Een wereld waarin er dingen mogelijk zijn die we ons allemaal best voor kunnen stellen. Vaak is het een (al dan niet extreme) uitvergroting van wat er nu al mogelijk is. Telkens wordt je de vraag gesteld: “Willen we nu wel of niet dat dit echt de toekomst wordt?”.

In de meeste afleveringen worden technologieën en gadgets voorgesteld die het hart van elke geek harder doen kloppen, maar waarvan de negatieve gevolgen soms zeer beangstigend zijn. Hieronder ga ik dieper in op de thema’s uit het laatste seizoen om te kijken of dit inderdaad iets is waar we bang voor zouden moeten zijn.

Aflevering 1: Nosedive

De basis van wat er beschreven wordt in Nosedive is ons waarschijnlijk allemaal bekend: social media, het beoordelen van elkaar, cyberpesten, sociaal wenselijk gedrag, noem het maar op. In Nosedive zien we een toekomst waarin blijkbaar één social netwerk het monopolie heeft en zowel door personen onderling, als door commerciële- en overheidsinstanties gebruikt wordt.

De technische middelen die mensen in deze wereld gebruiken, bestaan uit mobiele apparaten die lijken op onze huidige smartphones en tablets en worden aangevuld met speciale lenzen. Hierdoor krijgen ze een laag van augmented reality (AR) over hun gezichtsveld waarmee ze realtime informatie (namen en beoordelingen in dit geval) te zien krijgen over de mensen om hen heen.

Google Glass & Snapchat Spectacles

Aan contactlenzen die in staat zijn om visuals op je netvlies te projecteren wordt daadwerkelijk gewerkt. Maar in de vorm waarin ze in Nosedive bestaan, zijn ze nog pure science fiction. Voorlopig hoef je dus nog niet bang te zijn dat iemand alles over je te weten komt door je gewoon aan te kijken. Maar we hebben een primitieve vorm hiervan de afgelopen jaren al voorbij zien komen, in de vorm van Google Glass. De volgende generatie apparaten zit er alweer aan te komen. Zo heeft Snapchat haar eigen bril gelanceerd, waarmee gemakkelijk filmpjes gemaakt kunnen worden. En we zien dingen als de Hololens van Microsoft of Magic Leap, maar daarover later meer.

Deze technologische ontwikkelingen kunnen ons leven natuurlijk enorm verrijken, makkelijker maken en de toepassingen in allerlei professionele omgevingen zijn ook oneindig. In Black Mirror gaat het zoals de kijkers weten alleen zelden lang over de leuke aspecten van deze futuristische gadgets. Het gaat in de aflevering alleen niet over de nadelige gevolgen van deze AR-technologie, maar om ratings.

Nadelige gevolgen van ratings

Het wordt steeds normaler dat we alles om ons heen kunnen beoordelen: producten, restaurants, hotels, taxiritjes (Uber), kinderoppas, etc. Meestal gaat het dan om producten of verleende diensten, maar in feite beoordelen we elkaar ook al op social media via likes/shares/dislikes/retweets.

In Nosedive heeft de cumulatieve waarde van al die persoonlijke beoordelingen door de mensen om ons heen hele grote gevolgen, die verder gaan dan alleen de sociale status die iemand geniet. Het bepaalt mede of je wel of niet in aanmerking komt voor een woning in een bepaalde buurt, of je sneller geholpen wordt in de rij, of dat je de beste medische zorg krijgt. Voor veel kijkers zal dit het punt zijn waarop ze zeggen “Ja dag! Zo ver zal het echt niet komen! Niemand zou zoiets accepteren!” En toen Peeple een app aankondigde waarbij mensen elkaar in ieder geval al op deze manier konden gaan beoordelen, was de kritiek dan ook zo groot dat het totaal niet van de grond kwam.

Ranking door verzekeraars en overheden

Nergens bang voor zijn dus? Nou niet helemaal. Commerciële instanties, waaronder adverteerders en verzekeraars ‘ranken’ ons allang op basis van een enorme bak big data. Het bepaalt wat ons aangeboden wordt in webshops, maar ook hoeveel premie we betalen.

Als dat nog onschuldig, of voor sommigen als ‘rechtvaardig’ klinkt, dan zou je snel eens moeten kijken naar het enorme ‘social credit’-experiment van de Chinese overheid. Ze willen in 2020 een systeem ingericht hebben, waarbij elke inwoner een score krijgt op basis van een enorme hoeveelheid gegevens, waaronder bijvoorbeeld het aantal verkeersovertredingen dat iemand begaat. Op dit moment laat het een aantal grote bedrijven experimenten uitvoeren met vergelijkbare systemen, waaronder Sesame Credit, de financiële tak van Alibaba met ruim 400 miljoen gebruikers. Wat zij precies bijhouden laten ze niet weten. In dit BBC-artikel staan voorbeelden genoemd van mensen die blijkbaar hun scores al trots delen op hun datingwebsites en mensen die zeggen dankzij de rating geen borg meer hoeven te betalen bij het boeken van een hotelkamer. Dit lijkt akelig veel op wat we zien in Nosedive.

Wat denk jij zelf? Lopen we straks allemaal tóch met speciale AR- of mixedreality-headsets en was Google Glass gewoon te vroeg? Gaan we echt naar een samenleving waarbij elkaar beoordelen op nog meer vlakken heel gewoon wordt? En is het wel of niet acceptabel dat al ons gedrag straks bepaalt waar we wel of geen recht op hebben? Karma is a …

Aflevering 2: Playtest

Ook de tweede aflevering van het seizoen weet precies de juiste snaar te raken als het gaat om ontwikkelingen in de huidige techniek waar veel onzekerheden omheen hangen. Dit keer natuurlijk de opkomst van virtual-, augmented- of mixed reality.

Met de Hololens van Microsoft zien we al een glimp van hoe levensecht AR kan zijn. De meest mysterieuze technologie waar we op dit vlak waarschijnlijk veel van kunnen gaan verwachten is Magic Leap.

Mixed reality van Magic Leap

Voor de mensen die hier nog nooit over gehoord hebben; Magic Leap is een nieuw bedrijf dat in het geheim werkt aan technologie die zij zelf Mixed Reality (MR) noemen, daarmee doelend op het feit dat het nog meer immersive is dan de bestaande AR-oplossingen. Waar AR als het ware een laag bovenop de werkelijkheid projecteert, is MR een situatie waarbij het echte en het virtuele nauwelijks meer van elkaar te onderscheiden zouden moeten zijn. De door de computer gegenereerde objecten zie je dus versmelten met de dingen om je heen.

Om het allemaal nog bizarder te maken: vrijwel niemand buiten mensen van het bedrijf om heeft mogen zien hoe deze technologie werkt en het lukt ze heel goed om het geheim te houden. Geen lekkende journalisten dus nog, of stiekeme foto’s. We weten als toeschouwer zelfs niet of we het over een bril of helm of heel iets anders hebben, maar ondanks dat wordt de waarde nu al geschat op méér dan 4,5 miljard dollar!

Brain computer interface

De aflevering Playtest gaat hierin wel een stap verder door uit te gaan van een heel wat ingrijpender principe: een soort implantaat dat een directe verbinding maakt met je hersenen. Dit idee maakt Playtest meteen ook iets minder geloofwaardig of relatable, omdat er eigenlijk nog maar heel weinig aanwijzingen zijn dat de techneuten daarbij überhaupt bij in de buurt komen.

Toch zijn bepaalde vormen van Brain Computer Interfaces wel in opmars en we zien bijvoorbeeld dat de omgekeerde weg steeds meer vorm begint te krijgen. Denk aan verlamde mensen die dankzij dergelijke oplossingen robotarmen kunnen besturen en in sommige gevallen ook weer dingen kunnen voelen.

Werkelijkheid versus game

Had deze aflevering dan geen geloofwaardige doemscenario’s? We hebben het toch wel nog steeds over Black Mirror? Nou eigenlijk viel dat dus heel erg mee. Niemand die de aflevering gezien heeft zal ontkennen dat het niet angstaanjagend was, maar dat zat dit keer toch veel meer in de vorm van de horrorclichés, schrikeffecten en inception-achtige dreamstates waarbij je nooit weet of wat je ziet nog echt is of niet.

Desalniettemin is het ook nu al mogelijk om met de eerste generatie VR-brillen mensen de stuipen op het lijf te jagen. Als je nog nooit een horrorgame of -demo geprobeerd hebt met een Oculus Rift, PSVR, HTC Vive of zelfs een GearVR, is het moeilijk voor te stellen. Dit wordt al vrij snel zo intens, dat je het niet gemakkelijk langer dan een kwartier volhoudt en gedurende die ervaring heb je vaak ook het idee dat je fysiek écht iets voelt. Dit wordt in Playtest overdreven, maar het is niet moeilijk om je voor te stellen dat er wat meer mensen zullen flauwvallen tijdens een potje gamen wanneer we geen grote brillen meer op ons hoofd hoeven te dragen en het allemaal realistischer wordt.

Invasieve onderzoeken

Iets wat mij verder opviel aan deze aflevering, en wat ik nog niet in andere reviews genoemd heb zien worden, is de thematiek rondom invasieve onderzoeken waar mensen voor worden geronseld met geld (speelt ook maar een kleine rol in Playtest). En tech-journalistiek, met name het lekken van informatie over nieuwe gadgets.

Een belangrijke clou in Playtest is dat de hoofdrolspeler uiteindelijk lijkt te sterven door zijn eigen nieuwsgierigheid en die van anderen. De telefoon waarmee hij stiekem foto’s maakt, zorgt voor de storing die hem fataal wordt. Is dit soms nog een extra wijze les van de schrijver van deze aflevering? Ik moest in ieder geval wel meteen weer denken aan Magic Leap, wat claimt een hele bijzondere ervaring te gaan worden, maar waar tot nu toe nog niemand echt noemenswaardig gelekt heeft. Zijn alle testers soms ook spoorloos verdwenen? 😉

Aflevering 3: Shut Up and Dance

Over Shut Up and Dance kunnen we eigenlijk heel kort zijn. Van heel het  seizoen is dit namelijk de meest realistische aflevering. In die zin, dat er eigenlijk geen enkele futuristische technologie aan te pas komt. In theorie zou het hele scenario van deze episode gewoon kunnen plaatsvinden, al zijn daar wel wat héél erg handige (en sadistische) hackers voor nodig. Wat in deze aflevering met name interessant is, is de (on)ethische kant van hacken. In de aflevering worden mensen met kennelijk immoreel gedrag er door hackers ingeluisd om met chantage allemaal handelingen uit te voeren in de hoop dat de compromitterende informatie niet gelekt wordt naar familie, vrienden, klasgenoten of de pers.

Cyber-chantage

Op dit moment zijn de voorbeelden van cyber chantage talrijk. Met name vrouwen zijn hier al heel vaak het slachtoffer van geweest, nadat boze ex-vriendjes bijvoorbeeld dreigden naaktfoto’s te verspreiden. Ook beroemdheden zijn al meerdere keren het doelwit geweest van massale cyberattacks, waarbij persoonlijke informatie is gestolen om vervolgens verkocht te worden aan de hoogste bieders.

Het dilemma waar je als kijker gesteld voor wordt in Shut Up and Dance, is of je sympathie krijgt voor de vreemdgaande vader of pedofiele jongen die zelf nog een onschuldige, onzekere puber lijkt te zijn op het moment dat hij aan een sadistisch spel wordt onderworpen. Vind je het als kijker eigenlijk wel prima dat ze op deze manier ontmaskerd worden? Of is dit nooit de taak van hackers en dus niet goed te praten?

Aflevering 4: San Junipero

Eén van mijn favoriete afleveringen van dit seizoen. Niet omdat ik nou zo gek ben op romantische, melodramatische liefdesverhalen, maar juist om het scifi-principe waar het allemaal om draait in dit verhaal: een digitale hemel in de cloud, waarin je geüpload kunt worden om op die manier oneindig te blijven leven. Als digi-nerd fantaseerde ik al jaren over deze hypothese. Is onze geest te digitaliseren en te uploaden? En als die mogelijkheid ooit zou bestaan, ben ik dan ook in staat om de omgeving om mij heen te manipuleren naar mijn eigen wil (en zo dus de ultieme, zelf invulbare hemel te creëren)?

Dat laatste is in San Junipero slechts deels mogelijk. De virtuele wereld is net als de fysieke wereld niet volledig aanpasbaar, maar de bewoners en bezoekers kunnen wel de tijd aanpassen en wat schuiven aan- en uitzetten (bijvoorbeeld of ze wel of geen pijn kunnen voelen).

Het eeuwige leven in de virtuele én echte wereld

De aflevering gaat grotendeels over of je als mens wel of niet dat eeuwige leven moet willen. Of dat nou in de echte fysieke wereld is of in een virtuele hemel. Hoe ongeloofwaardig het misschien ook klinkt, op dit moment zijn er mensen met serieus veel geld die alles op alles zetten om dit te bereiken. Zo claimt de Russische miljardair Dmitry Itskov dat het hem binnen de komende 30 jaar gaat lukken. Hij zou volgens geruchten inmiddels al meer dan 1,5 miljard dollar in research gestopt hebben. In eerste instantie om de mogelijkheid te creëren ons bewustzijn te uploaden naar een robot, maar met als einddoel om een holografische avatar van onszelf te verwezenlijken die in principe tot het einde der tijden voort moet kunnen leven in zowel de echte als de virtuele wereld.

Zou jij dat willen?

Aflevering 5: Men Against Fire

De vijfde aflevering voelde deels als een soort Starship Troopers, met borstkloppende en schreeuwende soldaten die op ‘bugs’ jagen in plaats van de ‘(cock)roaches’ in Men Against Fire. Buiten dat om had het ook veel post-apocalyptische eigenschappen van zombiefilms en waren er veel links met totalitaire staten uit futuristische films (Equilibrium) of juist ons eigen verleden (WOII).

Persoonlijk vond ik deze doemscenario’s ook meer leidend in deze aflevering. De techniek die het mogelijk maakte de supersoldaten zo te indoctrineren/sturen (weer een implantaat), was eigenlijk ondergeschikt. Was er dan buiten de relaties met eugenetica, fascisme, populisme en propaganda niet weer een realistische koppeling te vinden met hedendaagse technologie? Jawel hoor. 🙂

AR-laag over de werkelijkheid

Het MASS-implantaat in Men Against Fire creëert namelijk eigenlijk een hele overtuigende AR-laag over de werkelijkheid heen. In dit geval zorgt die laag er dus voor dat dingen mooier gemaakt worden dan ze zijn en het lijkt erop dat het op visueel gebied niet lang meer hoeft te duren voordat we daartoe in staat zijn (in ieder geval voor fysieke objecten).

Drone warfare

Een andere, niet heel ver gezochte vergelijking is te maken met drone warfare. De laatste jaren is er een enorme groei in het aantal drone-aanvallen op doelwitten, verspreid over de hele wereld. In tegenstelling tot wat veel mensen dachten, blijken deze ‘piloten’ nadat de gebeurtenissen hebben plaatsgevonden net zoveel psychologische klachten te ontwikkelen als reguliere piloten of soldaten. De anekdotes van ex-dronepiloten zijn soms huiveringwekkend en de dingen die gezegd worden tijdens de missies lijken verdacht veel op wat er gebeurt in Men Against Fire. Lees bijvoorbeeld maar eens het artikel Life as a drone operator: ‘Ever step on ants and never give it another thought?

Ontmenselijken van de vijand

Duidelijk is dus dat afstand tot – en het dehumanizen van – de vijand het op het moment zelf in ieder geval al een stuk makkelijker maakt. De vraag is of het scheppen van een virtuele laag plus nog een flinke dosis indoctrinatie ooit voldoende is om een situatie te krijgen zoals in Black Mirror. Laten we hopen van niet…

PS plus spoiler: De scifi-film Ender’s Game (gebaseerd op het gelijknamige jeugdboek) schetst een vergelijkbaar scenario waarbij de kinderen denken een simulatie te spelen, maar in werkelijkheid oorlog voeren op afstand.

Aflevering 6: Hated in the Nation

De laatste aflevering duurde langer dan alle voorgaande en was met anderhalf uur vergelijkbaar met een soort scifi-, CSI-minifilm. Dus ook het aantal links met zowel hedendaagse- als futuristische thema’s en technologie was groter dan ooit tevoren. Een kleine opsomming:

• Conspiracy theories
• Uitstervende bijen
• Genetische modificatie?
• Cyberpesten en de gevolgen die het kan hebben
• Lone wolfs die vreselijke aanslagen kunnen plegen in hun eentje
• Privacy versus veiligheid
• Doodsbedreigingen

De grote, kwade genius die uiteindelijk een paar honderdduizend doden op zijn geweten heeft, schreef in deze aflevering als een soort Anders Breivik een heel manifest om zijn daden te rechtvaardigen. De omvang en de manier waarop hij dit deed, was niet te vergelijken met hedendaagse lone wolfs. Maar ook in de echte wereld zijn er helaas mensen die met vergelijkbare motivaties tot vreselijke acties zijn gedreven. Technologie is in dit verhaal zowel een wapen geweest van de pestkoppen van zijn huisgenoot, als een wapen dat hij gebruikt om wraak te nemen.

Cyberpesten

Cyberpesten, mensen lastig vallen en tot op het bot beledigen. Het neemt recent dusdanig ernstige vormen aan dat online platformen als Twitter met de handen in het haar zitten, ze weten niet hoe ze hier mee om moeten gaan. Een recent voorbeeld is de stroom aan beledigingen die zwarte actrice Leslie Jones op Twitter te verduren kreeg en hoe traag het socialmedia-platform zelf reageerde of iets deed aan de accounts die zich hier schuldig aan maakten.

Privacy versus veiligheid

Een ander belangrijk thema was natuurlijk privacy versus veiligheid. De robotbijen bleken in het geheim door veiligheidsdiensten gebruikt te kunnen worden om alles en iedereen in de gaten te houden. Hiermee waren ze eigenlijk een metafoor voor de CCTV-camera’s waarmee Engeland, maar eigenlijk steeds meer landen/steden volhangen en die ons continu in de gaten houden. In het VK alleen al hangen er naar schatting bijna 6 miljoen camera’s, waarvan zo’n 400.000 stuks in Londen. Ondanks die camera’s gebeuren er natuurlijk nog steeds vreselijke dingen en je hoeft geen complottheorie-aanhanger te zijn om je zorgen te maken over of dit echt nodig is en wat er met al die gegevens gebeurt.

Om deze enorme hoeveelheid data te analyseren, moet steeds meer gebruik gemaakt worden van AI-systemen, omdat het simpelweg te veel is om door gewone mensen te laten doen. Maar dit betekent wel dat hierdoor iedereens bewegingen in kaart gebracht en geanalyseerd worden en dus niet alleen die van potentieel verdachte mensen.

Genetische modificatie

Een andere mooie metafoor van de bijen in Hated in the Nation is dat het onder andere ook symbool staat voor de angst van mensen voor genetische modificatie. Even los van of die angst terecht is, lijkt wat er gebeurt in deze aflevering veel op een uit de hand gelopen experiment, waarbij de bijen zijn vervangen door een soort superras waar we uiteindelijk niet meer de controle over hebben. Alleen is dit bijenras niet het resultaat van genetische modificatie, maar zijn het een soort nano-drones.

In die zin heeft de bijenplaag in Hated in the Nation ook wat weg van het ‘grey goo’-scenario. In dat scenario creëert iemand (al dan niet met kwade bedoelingen) een soort onverwoestbare nanobot die zichzelf kan repliceren/vermenigvuldigen zoals bacteriën dat ook kunnen, maar die als voedingsbodem organisch materiaal nodig heeft. Dit zou zo exponentieel uit de hand kunnen lopen, dat binnen korte tijd na de start van de eerste vermenigvuldiging de hele aarde als het ware bedekt zou worden met deze massa en al het leven zou uitroeien. Iets vergelijkbaars gebeurt bijna in de film Transcendence en is, hoe bizar en ongeloofwaardig het ook klinkt, iets waar AI-experts en nano-wetenschappers veelvuldig over discussiëren. Elon Musk is er bang voor en ook de beroeps-doemdenkers hebben deze hoog op de lijst staan van potentiële end of world scenarios. Niet iets dus om zomaar weg te wuiven.

Conclusie

En zo kwam er na meer dan 6 uur bingewatchen helaas een einde aan het 3e seizoen van Black Mirror. Een seizoen dat in mijn ogen aan alle verwachtingen heeft voldaan en wederom vol zat met de meest fantastische futuristische technologieën. Een serie waarbij je na bijna elke aflevering zelf gaat twijfelen over morele dilemma’s, maar meestal wel weer rustig denkt te kunnen gaan slapen.

Het is allemaal ver van je bed. Totdat je beseft dat best veel van de dingen in Black Mirror helemaal niet zo extreem vergezocht zijn. Een vierde seizoen staat op de planning en ik kijk nu al uit naar waar Charlie Brooker ons volgend jaar de stuipen mee op het lijf weet te jagen!