38e jaargang nr.  1 (januari 2024)
thema: Kunstmatige Intelligentie (AI)

Martine Oldhoff
Kunstmatige mensen?
Een poging om de menselijke ziel op te delven

Series, boeken en films verbeelden zo nu en dan dat kunstmatige intelligentie het mens-zijn bedreigt of overneemt. Maar ook vanuit Silicon Valley wordt er gedroomd en gesproken over techniek die de mens voorbijstreeft of verandert. Wat voor ideeën over persoon-zijn zitten achter dit soort beweringen? Waarin verschillen robot en mens?

‘Je zou haast zeggen dat ze een ziel heeft’, spreekt de verkoper van een robot in de Zweedse serie Real Humans. Het gaat over robots die ‘echte mensen’ zijn. In een toekomstig Zweden nemen zogenaamde menselijke robots, ‘hubots’, een steeds grotere plek in de maatschappij in. Er wordt een toekomstbeeld geschetst dat we inmiddels kennen uit andere verhalen, in beeld en op papier. De antropologische en theologische vragen zijn steeds aanwezig. Wat is een mens en wat maakt hem of haar mens?

Deze serie doet de suggestie dat zo’n hubot een ziel heeft en dat een mens die kan scheppen door vernuftige techniek. Dat sciencefictionboeken en -series dat suggereren, is natuurlijk niet verrassend. Toch is is het de moeite waard erbij stil te staan. Ook vanuit Silicon Valley klinken er wel eens sciencefictionachtige stemmen over de toekomst van de mens. Dat is een van de redenen dat er zo’n grote donkere wolk rondom kunstmatige intelligentie hangt. Wat nemen computers van ons over? In welke mate kunnen ze zelfstandig worden en wat betekent dat? Krijgen wij meer computertechniek ‘in’ ons? Deze vragen gaan over onze verhouding tot kunstmatige intelligentie en daarmee ook over wie wij zelf zijn.

Transhumanisten rondom Silicon Valley
Ray Kurzweil, een grote naam bij Google, zegt in interviews dat hij denkt dat er een moment komt waarop het brein van een mens en daarmee zijn persoonlijkheid en herinneringen volledig in kaart zijn gebracht en gekopieerd kunnen worden. Of dat dan dezelfde persoon is laat hij in het midden. Over kunstmatige intelligentie zegt hij: ‘We zijn aan het vermengen met deze intelligente technologie die we aan het scheppen zijn. We zullen op een punt komen, binnen een jaar of veertig of iets dergelijks, waarin we “wie we zijn” echt kunnen “back-uppen”. […] Ons denken zal een hybride worden van onze biologische hersenen en een niet-biologische extensie in de cloud.’

In plaats van te stellen dat een robot een ziel heeft, wordt de mens nu zo beschreven dat hij een robot, een ding, lijkt. De scheidslijn wordt erg dun. Dat is hetgeen mensen fascineert, benauwt en bezorgt. Maar niet iedereen. Dat was al duidelijk door Kurzweil te noemen, maar zoals hem zijn er meer zogenaamde transhumanisten. Ze denken graag een nieuwe vorm van mens-zijn uit. De mens moet zichzelf overstijgen door techniek te gebruiken en zo een nieuwe ‘transhumane’ levensvorm ontwikkelen. Dat kan ook door psychofarmaca, genetische manipulatie of implantaten. Verschillende transhumanisten hebben verschillende middelen in gedachten. Het gaat nu om transhumanisten die door kunstmatige intelligentie begeesterd zijn.

Een ander bekend voorbeeld is Elon Musk. Hij meent dat de mens verder moet evolueren door een symbiose te worden met machines. Hij staat onder andere aan de wieg van Neuralink, een commercieel bedrijf dat breinimplantaten ontwikkelt. Musk steekt zijn hoop niet onder stoelen of banken dat hersenen rechtstreeks met computers zullen kunnen communiceren. Volgens hem is de beste manier om machines te controleren door één met ze te worden. Mensen hebben iets biologisch en dat kan gecombineerd worden met iets niet-biologisch, te weten: computertechnologie.

Persoonlijke identiteit
Het roept de vraag op of we louter over de mens moeten denken in termen van biologie en techniek. Of hebben mensen ook iets anders ‘niet-biologisch’ dat computers en robots niet hebben: een geest of een ziel? Of: in hoeverre is hun subject-zijn, hun persoon-zijn iets dat geheel en al te herleiden is tot het lichaam, in het bijzonder de hersenen? Dat brengt ons bij de vraag naar persoonlijke identiteit en dan betreden we het terrein van de filosofie. De visie op wat persoonlijke identiteit is en waardoor het geconstitueerd wordt verschilt. Hoewel er vanuit de continentale filosofie en de theologie veel zinnige analyses over persoon-zijn bestaan, denk ik dat voor dit thema de analytische filosofie ook behulpzaam is.

We komen in een gebied waarin sommigen niet terecht willen komen, omdat hier nagedacht is over persoonlijke identiteit in termen van numerieke identiteit. Wat maakt dat ‘ik’ dezelfde persoon ben als tien jaar geleden? Ik ben in allerlei opzichten, zowel lichamelijk als geestelijk, misschien sterk veranderd. Wat constitueert mijn persoonlijke identiteit door de tijd heen? Hoe kunnen we persoonlijke identiteit begrijpen? Met het oog op het mystificerende spreken van transhumanisten over mensen en computers is het nuttig bij persoonlijke identiteit stil te staan.

Parfit
Een belangrijk onderscheid is het onderscheid van de filosoof Derek Parfit (1942-2017) tussen enkelvoudige en complexe visies op persoonlijke identiteit. Een complexe visie houdt in dat persoonlijke identiteit complex (samengesteld) is: samengesteld door meerdere dingen. Dan kun je persoonlijke identiteit begrijpen in termen van graden van continuïteit van andere dingen, zoals materie of eigenschappen. Denk bijvoorbeeld aan het lichaam. Het verandert continu door de vernieuwing van cellen, maar omdat de cellen elkaar als ketens overlappen ben ik steeds dezelfde persoon. Of je zegt dat je bepaalde persoonlijke eigenschappen hebt die min of meer continu blijven en die mij die ene persoon maken. Er kunnen enkele eigenschappen veranderen gedurende de tijd, maar in die verandering is er overlap. Zo is er graduele continuïteit en deze graduele continuïteit van eigenschappen is wat je ‘de persoon’ noemt. Je ziet dat het hier dus ook gaat over wat het ‘zelf’ is. Een variatie op zo’n complexe theorie is dat je het zelf ziet als een bundel van gedachten en percepties (bijvoorbeeld verdedigd door John Locke (1643-1705)). Zo lang die bundels van gedachten en percepties met elkaar verbonden zijn, elkaar overlappen, is er sprake van persoonlijke identiteit.

Parfit heeft theorieën van persoonlijke identiteit ook stevig bekritiseerd. Hij gebruikt gedachte-experimenten met fictieve chirurgen die breintransplantaties doen. Kun je een persoon dan splitsen of reproduceren? Hij denkt dat het mogelijk is dat de persoon overleeft na een (gedeeltelijke) breintransplantatie, maar ook dat er twee personen overleven. En als we een persoon kunnen splitsen, dan kunnen we inderdaad geen antwoord meer geven op de vraag ‘wie ben jij?’. Parfit beschouwde zijn reductionistische visie op de mens als een bevrijding van het zelf. Hij spreekt dan ook van zelven die elkaar opvolgen, niet langer van persoonlijke identiteit.

Parfit heeft een punt. Als je persoonlijke identiteit zou opvatten in termen van fysieke of psychologische continuïteit, of een combinatie van die twee, wordt het onmogelijk om precies te bepalen hoeveel verandering voor een persoon is toegestaan om nog steeds van identiteit te spreken.

Filosofen die een vorm van dualisme verdedigen menen dat een enkelvoudige visie op identiteit de beste verklaring is voor ons persoon-zijn door de tijd heen. Zij beschouwen complexe visies op persoonlijke identiteit als reductionistisch: een persoon is dan een samenstelling van eigenschappen. Zodoende kan persoonlijke identiteit gekopieerd, gesplitst of gereproduceerd worden. Het probleem met deze visies op persoonlijke identiteit is dat ‘ik’ te reduceren ben tot een bundeltje eigenschappen. Zulke eigenschappen kunnen theoretisch gezien ook over andere mensen (of dingen?) verdeeld worden. Als het zelf een constructie van eigenschappen is, kan dat theoretisch ook gesplitst of gereproduceerd worden. Onder andere daarom beargumenteren dualisten dat, als je wilt volhouden dat een persoon met zijn of haar eerste-persoonsperspectief onherleidbaar is tot iets anders, dat zelf een onherleidbaar (enkelvoudig) ‘iets’ moet zijn: een substantie van vorm en materie of een enkelvoudige substantie. In beide gevallen komt de ziel in beeld, precies hetgeen de complexe theorieën willen vermijden. Een dualist beweert dat de mens een persoon (ziel) is die niet te reduceren is tot het lichaam en die persoonlijke identiteit heeft.

Ambivalente transhumanisten
Ray Kurzweil houdt in het midden of je met techniek iemands ‘ik’ kunt kopiëren. Als een ‘ik’ een optelsom zou zijn van hoe iemands neuronen precies werken, is het in theorie wellicht mogelijk daar een kopie van te maken.

Transhumanisten zijn feitelijk heel ambivalent als het om de identiteitsvraag gaat. Enerzijds lijken ze menselijke personen te zien als dingen die je kunt mengen met een machine of eventueel kunt kopiëren. Anderzijds is het de vraag waarom sommige transhumanisten zo bezig zijn met het vermijden van de lichamelijke dood of het verbeteren van de mens en daarmee het in stand houden van hun eigen ‘ego’. Is dat wellicht een aanwijzing dat de meeste mensen aannemen dat zij een persoonlijke identiteit hebben? En ook: dat het behouden van de eigen persoon stiekem ook erg belangrijk is?

Transhumanisten spreken graag heel spannend over de mens: alsof een robot een ziel kan hebben – ook al geloven ze niet werkelijk in een door God geschapen lichaam en ziel. Ze denken graag over zichzelf en de mensheid als goddelijk, niet als bijna-goddelijk geschapen door de Heer. Zij willen zelf god zijn en geboden bepalen. De lobby tegen wetgeving op het gebied van kunstmatige intelligentie is zeer stevig. Deze bedrijven hebben (te) veel geld en macht. Hoe dan ook: met hun taal scheppen ze graag de nodige mystiek over de mens en techniek.

Nuchterheid en verantwoordelijkheid
Het is heilzaam om nuchter te zijn ten opzichte van technologische ontwikkelingen. Machines worden door mensen ontworpen, evenals de algoritmes en systemen die ze besturen, en kunnen niet interpreteren of verantwoordelijkheid dragen. Een mens daarentegen kan antwoorden op God en op andere mensen. En, anders dan een ding, kan een mens met een eigen persoonlijke identiteit ook ‘verantwoording’ afleggen en schuld dragen.

Er zijn natuurlijk veel meer verschillen tussen mensen en robots aan te wijzen. Bijvoorbeeld dat een mens geschapen is door God en een niet tot het lichaam (of elektronica) te reduceren ziel heeft. Zo is hij een subject, en geen object, met een eerste-persoonsperspectief. Menselijke personen veranderen op allerlei manieren door de tijd heen, maar ze zijn wel die ene niet te reduceren persoon. Die ‘ene mens’ is ook verantwoordelijk voor wat hij doet ten opzichte van God en andere mensen. Daarom is een belangrijke vraag: in hoeverre durven we verantwoordelijkheid te nemen voor de machines en systemen die we zelf ontwerpen en voeden met data en voorgeprogrammeerde regels? Wat doet al dat geknutsel aan en in de mens met onze ziel? Of begraven we de ziel rustig? Daar zit ook een addertje onder het kunstmatige gras: het vele spreken over wat de techniek van ons gaat overnemen en hoe zij ons leven beheerst, is een manier om maatschappelijk en individueel aan onze eigen verantwoordelijkheid te ontsnappen en de schuld op iets anders af te schuiven. Maar de dingen, algoritmes en chatbots waar ook nog eens vele menselijke werkers in erbarmelijke omstandigheden en een gigantische CO2-voetafdruk achter schuilgaan, maken wij mensen zelf. Daarmee hebben we ons zelf te verantwoorden naar onze Schepper en naar elkaar.

Dr. M.C.L. Oldhoff is predikant van de protestantse gemeente in Mijnsheerenland en redactielid van Kontekstueel. Mailadres: Dit e-mailadres wordt beveiligd tegen spambots. JavaScript dient ingeschakeld te zijn om het te bekijken.