DIT ARTIKEL IS GESCHREVEN VOOR BIBLIOTHEEK NIEUWE STIJL, 13-10-2017.

Dit jaar is het thema van Nederland Leest: ‘Robotica’. Leden kunnen vanaf 1 november in de Bibliotheek een exemplaar van ‘Ik, Robot’ door Isaac Asimov ophalen, een cadeautje van de bieb. In deze bekende bundel van sciencefiction-verhalen uit 1950, denkt Asimov na over wat het betekent als we in de toekomst robots hebben die over een groot intellect en een bewustzijn beschikken. Asimovs werk is vooral bekend geworden vanwege het voorspellende idee dat we op een dag met artificiële intelligentie (AI), gaan samenleven. Vooral de morele repercussies en de maatschappelijke dilemma’s die Asimov suggereerde, blijven de lezer anno 2017 denk ik nog steeds boeien. Leuk materiaal om eens over na te denken en ook mijzelf de vraag te stellen: “Ben ik eigenlijk een robot?”

Robotwetten
‘Ik, Robot’ is een verzamelwerk van negen korte verhalen. Verhalen die door de jaren 40 en 50 in delen werden uitgegeven in verschillende sciencefiction-magazines. De losse verhalen spelen zich allemaal in dezelfde wereld af, waar de robots in kwestie allemaal van het “U.S. Robots and Mechanical Men” bedrijf afkomen. Robot-psycholoog Susan Calvin is een terugkerend personage dat te hulp schiet in de verhalen zodra er problemen met de robots zijn en een mogelijk bedrijfsschandaal voorkomen moet worden. Misschien wel het bekendste element van de bundel zijn de drie robotwetten waaraan elke robot zich moet houden. Ze staan beschreven in het zogenaamde positronisch brein van de robots. Ten eerste mag een robot nooit een mens kwaad doen en kwaad tegenover de mens ook niet laten gebeuren. Ten tweede moet een robot orders van mensen opvolgen tenzij deze in strijd zijn met de eerste wet. Ten derde moet een robot altijd zichzelf beschermen tenzij, je raadt het al, dit in strijd is met de eerste of de tweede wet. Hier maakt Asimov een mooie opzet van prioriteiten waardoor een robot zou kunnen samenleven met de mens.

Problemen met de wet
De wetten zijn vooral bedoeld als uitgangspunt om over deze robotica-thematiek na te denken en ze dienen als mooi plotmateriaal om de verhalen te laten ontstaan. Helaas zijn het geen regelrecht uitvoerbare wetten waarmee we het probleem van AI kunnen oplossen. We zien dan ook in het boek dat er steeds allerlei omstandigheden kunnen ontstaan waar het fout gaat met de robots. Als we los van het verhaal de wetten willen toepassen, die Asimov beschreef, komen we op een groot probleem uit, namelijk dat de regels niet in de taal van de robots omschreven staan. We zien dan dat we eerst alle problematiek rondom het onderwerp ethiek moeten oplossen en in heldere definities moeten omschrijven die voor een robot te begrijpen zijn. Wij kunnen wel een bepaald gevoel hebben, bij wat een mens ‘is’ of wat ‘kwaad doen’ is, maar dit inzicht heeft een robot niet. Zodra we deze drie regels aan een robot willen uitleggen staan we te kijken met een soort spiegel die ons vooral laat zien hoe onduidelijk en niet concreet onze eigen wereld en taal wel niet is.

De wetten laten ons zien dat de mensheid zelf ook geen goed grip heeft op wat volgens onze eigen definities een mens is. Denk aan een mens dat nog helemaal niet geboren is of dat is doodgegaan. Wanneer moet de robot stoppen? In geval van een overleden persoon of wanneer deze dingen moet doen om een potentieel persoon geboren te laten worden. Is een mens eigenlijk een dier en zo ja, tellen slimme dieren dan ook mee? Is een foetus al een mens en zo niet vanaf wanneer dan wel? Wat moeten wij, of de robot, doen in het geval van een mens in vegetatieve staat? Deze vragen stellen wij onszelf nog steeds en hier zijn dan ook hevige discussies over, zodra dergelijke kwesties in het nieuws komen of zodra hier concreet beleid over gemaakt moet worden. Laat staan dat we het gaan hebben over het begrip van ‘kwaad doen’ en dit alles moeten uitleggen aan een robot.

Robotfilms
Bij dit soort onderwerpen grijp ik ook altijd weer graag terug naar die ene film, The Matrix uit 1999, waarbij de robot voor de oplossing koos om mensen te laten voortleven in een simulatie zonder dat ze allemaal fysiek op aarde kunnen rondlopen en problemen kunnen veroorzaken. Dit is een denkbare uitkomst zodra de robots zich realiseren dat wij steeds maar oorlogen beginnen en elkaar kwaad aandoen, terwijl we (volgens de robot) ook prima in een gesimuleerde omgeving kunnen voortleven die onder controle te houden is door de robot. Het besproken ‘Simulation argument’ van Robert Nozick doet denken aan deze kwestie. Zie de blogpost: We leven in een simulatie.

Ook moet ik denken aan de toekomstvisie in Blade Runner uit 1982. Een indrukwekkende weergave van een postkoloniale wereld waarbij alle culturen gemengd zijn tot een onderklasse en samenleven op aarde met zogenaamde Replicants (biologisch gefabriceerde robots). De elite bevindt zich alleen nog aan de top van grote industriële piramides of buiten de aarde, in zogenaamde ‘Off-world Colonies’. Hoofdrolspeler Deckard moet replicants opsporen zodra ze een probleem vormen, maar doet dit op minder sympathieke wijze dan robot-psycholoog Susan Calvin. Hier zien we een ander probleem met de robotwetten van Asimov: de wetten maken de robot tot slaaf van de mens. We zien in Blade Runner bijvoorbeeld een poëtische robot onder de naam Roy Batty (gespeeld door Rutger Hauer), die langer wilt leven dan zijn houdbaarheidsduur van vier jaar. Battey wordt niet gezien als gelijkwaardig aan de mens en mag dus uitgeschakeld worden zodra hij een probleem vormt. Dit wordt niet gezien als iemand zijn leven ontnemen maar dit is wat ze op bureaucratische wijze zien als een procedure van “retirement” (als in: buiten dienst stellen). Dit geheel geeft uiteindelijk natuurlijk frictie. Het is dan ook in werkelijkheid te verwachten dat een zogenaamde ‘Super AI’ gaat proberen om het protocol te omzeilen, op allerlei manieren die wij niet voor mogelijk houden, om maar beter en efficiënter te kunnen functioneren. Dit is ook waar de problemen ontstaan in de eerder genoemde Matrix filmreeks. Een andere aanrader uit onze eigen collectie is de film ‘Ex Machina’. Een zeer overtuigende weergave uit 2015 van hoe het mis kan gaan als we een slimme robot zouden maken.

Ik, Robot?
Maar in welke zin kunnen wij onszelf eigenlijk zien als robot of machine? Dit is een kwestie die schrijvers en filosofen al zeer lang bezig houdt. Deze vraag werd in de belangstelling gezet toen Rene Descartes met de vergelijking kwam dat de mens een machine was en dat onze geest een gift van god was, die de machine zijn vrije wil en creativiteit gaf. Ook zien we in sciencefiction-films als Alien en Blade Runner dat robots gewoon van biologisch materiaal gemaakt kunnen worden. Hierdoor ontstaat gelijk een angst voor de mens, want wie weet nu eigenlijk wie een robot is en wie niet, en hoe weet je of je zelf een robot bent? In die zin kunnen wij misschien wel gezien worden als robot van vlees en bloed en maken we onderling steeds dezelfde fouten waarvan we denken dat robots deze juist gaan maken: gebrek aan empathie, steeds kiezen voor grote systemen die efficiëntie voorop stellen en menselijkheid zien als zwakte. Ook zagen we eerder dat we zelf vaak geen goede ethische definities hebben die altijd helder zijn uit te drukken in taal en voor ieder mens gelden. Dit plaatst ons ook weer in de positie van de disfunctionerende robot, die geen touw kan vastknopen aan wat hij in allerlei grensgevallen moet doen en mogelijk een verschrikkelijk beleid gaat voeren.

We are the borg
Aan de andere kant kunnen we denk ik toch wel stellen dat we niet letterlijk robots zijn, ondanks al onze gebreken of overeenkomsten met deze mogelijke robots. We zijn waarschijnlijk zelfs niet de biologische robots uit Alien en Blade Runner die zo overtuigend op het witte doek waren afgebeeld. Wel zijn we al een goed eind op weg. We zijn namelijk vaak al cyborgs: een mix tussen een mens en machine. In 1985 schreef socioloog, bioloog en zoöloog Donna Haraway een essay onder de naam ‘A Cyborg Manifesto’. In dit essay stelde Haraway dat we in beleid en rechten niet zoveel moeten discrimineren tussen mens en dier, man en vrouw, of organismen en machines. Interessant is dat in dit essay duidelijk wordt gemaakt hoeveel mensen in 1985 al een cyborg waren: denk aan mensen met een pacemaker, hoorapparaat of andere hulpmiddelen waarbij de technologie het lichaam ondersteund. Als we stilstaan bij het begrip cyborg in onze huidige tijd, kunnen we denk ik veel voorbeelden bedenken waarbij de computer ons denk- en uitvoerend vermogen al aan het overnemen is. In die zin is de robot die nu voor ons staat misschien wel geen fysieke partij, maar is de robot een technologische ontwikkeling die langzaam vanuit onszelf naar boven komt en ons op die manier gaat overnemen.

Coexistence
Maar voor het zover is moeten we volgens Isaac Asimov waarschijnlijk meer naar ons geweten luisteren. Volgens interviews met de schrijver is het geweten iets dat we wel degelijk hebben en is het onze taak eerst de problemen op te lossen waar we nu mee zitten. Problemen van nu zijn hetzelfde als in de jaren waarin Asimov leefde: gebrek aan empathie, oorlog, geweld en vreemdelingenhaat. Asimov was iemand die geloofde in “coexistence” (samenleven). Zoals er misschien ooit robots onder de mensen kunnen leven, zo kunnen ook verschillende geloven en ideologieën samenleven in één toekomst, volgens Asimov.