38e jaargang nr. 1 (januari 2024)
thema: Kunstmatige Intelligentie (AI)
Maaike Harmsen
Kunstmatige intelligentie als uitdaging voor de theologie
Dit artikel gaat over wat kunstmatige of artificiële intelligentie (AI) inhoudt, waarom het als een concrete bedreiging en kans wordt gezien en wat er in de internationale theologische gemeenschap wordt gedacht en geschreven over AI.
Er is de afgelopen jaren veel te doen geweest over kunstmatige of artificiële intelligentie, kortweg AI genoemd. Kunstmatige intelligentie is volgens het Europees Parlement ‘de mogelijkheid van een machine om mensachtige vaardigheden te vertonen – zoals redeneren, leren, plannen en creativiteit’. De Organisatie voor Economische Samenwerking en Ontwikkeling (OECD) benadrukt weer het menselijke ontwerp karakter van AI-systemen en het feit dat AI externe invloed heeft. Microsoft Support benadrukt het helpende karakter van AI voor menselijke gebruikers. In het laatste geval denken we sneller aan de manier waarop wij in Nederland dagelijks ongemerkt al AI gebruikt zien worden: de belasting en verdeling van ons treinnetwerk, ons internet-, drinkwater- en elektriciteitsnetwerk, onze dijk- en gemalensystemen, onze raffinaderijen, de logistiek van de aanvoer van supermarkten – allemaal worden ze vierentwintig uur per dag gereguleerd door AI-systemen. Honderdduizenden mensen werken weer dagelijks aan het bouwen van deze AI-systemen. AI-systemen en de geautomatiseerde machines die zij aansturen werken vaak aan zeer gevaarlijke, vervelende en tijdrovende producten en halfproducten waardoor wij als mensen niet tienduizend moertjes per dag op broodroosters hoeven te zetten. AI en automatisering doen dit werk voor ons.
AI neemt het over?
Maar AI doet ook complex rekenwerk voor ons, zoals de beslissingen bij de laatste minuten van de lancering van een raket: de laatste negentig seconden voor de lancering ‘neemt de computer het over’ en rekent door kansberekeningen uit of het veilig is om de raketlancering door te laten gaan. In die anderhalve minuut kijken de ingenieurs mee op de schermen, maar zitten ze niet aan de knoppen. AI vertoont dus meer dan menselijke vaardigheden in kansberekeningen. Toch is dit volgens sommigen niet wat nu het vraagstuk van AI zo urgent en zelfs gevaarlijk maakt. Daarvoor moeten we kijken naar wat Large Language Models (LLMs) nu doen. Deze vorm van AI voert ook statistische berekeningen uit, met gigantische datasets van het hele internet en aanverwante datasets die per internet te bereiken zijn (al dan niet legaal!). LLMs kunnen berekenen wat wij willen lezen als wij vragen stellen. ChatGPT is de bekendste chatbot voor gewone gebruikers van computers. Maar ChatGPT kan veel meer. ChatGPT kan ook codes genereren, websites bouwen, nieuwsartikelen schrijven, wetenschappelijke artikelen schrijven en tentamens en examens halen.
ChatGPT is ooit ontstaan in 2014 vanuit een groep software-ingenieurs die het ontwikkelen van AI niet wilden beperken tot de kapitaalkrachtige elite. Zij wilden een publiek: open source, wat wil zeggen dat de code een openbaar toegankelijk en non-profit AI-systeem is. Zo wilden ze werken aan goede en verantwoorde AI. Sinds vorig jaar is een deel van OpenAI, waar ChatGPT onder valt, voor winst gekocht door Microsoft. De reden om deze economische verhandelingen hier te noemen heeft te maken met de urgentie en angst die door deze kapitaalkrachtige ingenieurs zelf gegenereerd worden rondom de rol en de plek van ChatGPT en deze vorm van AI. Het lijkt erop dat AI zo sterk geworden is, dat zij zeer binnenkort alle menselijke vermogens in denken kan overtreffen en daarmee ons mensen kan gaan overheersen. Begin 2023 is er door enkele denkers en CEO’s van AI-systemen een wereldwijde pauze van zes maanden gevraagd in AI-ontwikkelingen. Deze specifieke vorm van AI wordt als potentieel gevaarlijk gezien, omdat wij niet weten hoe het computersysteem zijn kansberekeningen maakt en omdat het systeem vaak niet kan uitleggen waarom de uitkomst zo is. Het AI-systeem zou net als bij een raketlancering de beslissingen kunnen gaan overnemen. Er zijn vier mogelijke scenario’s wanneer dat gebeurt: AI krijgt te veel macht en is bewust goed; AI krijgt te veel macht en is bewust kwaad; AI krijgt te veel macht en is onbewust goed; AI krijgt te veel macht en is onbewust kwaad.
De angst dat ChatGPT menselijke activiteiten overneemt is gegrond; de OECD schat dat een kwart van alle banen in de OECD-landen overgenomen gaat worden door AI. In de media- en nieuwsector zijn crisisteams ingericht voor het bijhouden van en anticiperen op chatbots, omdat deze bijvoorbeeld betaalmuren omzeilen en nieuwsberichten delen met gebruikers, zonder te verwijzen naar hun bronnen. Ook het genereren van nepnieuws is extra makkelijk. De GPT kan niet beoordelen of nieuws waar is of niet; het leest door de eigenaren gegeven data, niet de werkelijkheid. Het beoordeelt op basis van statistiek, maar heeft geen eigen kritisch denkvermogen.
Ondanks deze tekortkomingen in de huidige AI-systemen, zien we een aantal fundamentele vragen en uitdagingen die van belang zijn voor ons menselijk gedrag en denken en daarmee ook voor de theologie. In dit overzichtsartikel over AI en theologie bespreken we drie notities: 1. AI en mensbeeld; 2. AI en hermeneutiek; 3. AI, bewustzijn en mensenrechten.
1. AI en mensbeeld
In de gereformeerde theologie en vooral het kuyperiaanse denken rijst een mensbeeld op dat gestempeld wordt door het zogenaamde menselijke cultuurmandaat, dat de mens als onderkoning tegenover de natuur schetst, om haar door middel van techniek te beheersen en te ontwikkelen ten behoeve van de mens. De schepping en vooral deze aarde is zo niet een doel in zich, maar een middel tot menselijke ontwikkeling en cultuur. Dit cultuurmandaat zit niet vast op de kwaliteiten van de mens, maar is een opdracht aan de mens om te antwoorden in liefde, creativiteit, kritische houding, wetenschappelijke interesse en wat al niet. De mens als onderkoning met een exclusieve opdracht tegenover God geeft aan dat niet een machine maar de mens boven alle cultuur en natuur staat en een geheel eigen plek heeft. In de nadruk op dit eigen exclusieve mandaat, tegenover rechten van de mensen op basis van specifieke kenmerken van de mens, blijft er een intrinsieke waarde aan het mens-zijn waardoor AI-systemen niet dezelfde rechten (en plichten) mogen overnemen van de mens. De mens staat buiten de natuur op een voetstuk boven de dieren en al het andere leven. Het grote gevaar van dit exclusieve denken zit hierin dat de wereld antropocentrisch gezien kan worden en de schepping niet meer dan grond tot ontwikkeling. De gevolgen van deze uitwas zijn bekend en legio: uitbuiting van dieren en natuur, een minachting van de eigen waarde van natuur en het bagatelliseren van de afhankelijkheid van de mens van natuur.
Gelukkig zijn er andere trends in de theologie, onder andere vanuit de reformatorische wijsbegeerte en de ecologische theologie, die hier tegenin gaan. Ook in de publieke opinie over het cultuurmandaat en de rol van de mens in de natuur lijkt het tij eerder de omgekeerde beweging te maken. De menselijke afhankelijkheid wordt nadrukkelijk afgezet tegen het beeld van ‘kroon op de schepping’ zijn. De mens is vooral onderdeel van de schepping, afhankelijk van de natuur en een natuurlijk wezen, niet veel anders dan dieren. Hiermee komt een meer inclusief denken over mens en natuur naar voren. Er is een breed scala aan denken hierover, binnen de theologie maar ook in het discours daarbuiten. Volgens Jacques Ellul zou de mens, als ontwikkeld uit de natuur en afhankelijk van die natuur, de morele aanjager moeten zijn om zich meer in balans te gedragen in die natuur, waarbij techniek zo beperkt mogelijk ingezet dient te worden.
Een derde mogelijkheid is dat de mens niet alleen onderdeel is van de natuur maar ook onderdeel is van de ontwikkeling in de natuur en dat blijft. Uit het natuurlijk verloop van de ontwikkeling van de gehele natuur zien we dan dat de hoogste vorm van intelligentie (op dit moment de mens) de baas is en dat ook wil zijn. De volgende zich ontwikkelende vorm van intelligentie is de kunstmatige, en wat wij ook doen, deze vorm zal zich ontwikkelen en zich boven ons gaan bevinden. Het transhumanisme sluit hierbij aan door te dromen over een lichaamloos menselijk bewustzijn dat eeuwig voort zal leven in digitale supercomputers.
Voor de theologie komen zo de vragen samen hoe de mens staat tegenover iets dat hij zelf gemaakt heeft en geen natuur is, maar dat wel een onderdeel is van de menselijke ontwikkeling. Waar zijn de aanknopingspunten voor het beschermen van menselijke waardigheid, menselijk denken en menselijke plichten tot bescherming van andere mensen en de natuur tegen AI? In Nederland is het bijvoorbeeld Marius Dorobantu die zich bezighoudt met de mens als uniek beeld van God en wat dat betekent voor een goed begrip van AI. Maar ook Henk Jochemsen en Maarten Verkerk publiceren vanuit de reformatorische wijsbegeerte regelmatig over AI en mensbeeld.
Zowel het inclusief denken over de mens als afhankelijk natuurlijk wezen, als een exclusief denken over de mens als tegenover natuur en ontwikkelingen zijn nodig voor een sterk pleidooi voor de mens tegenover AI-systemen. De mens heeft een opdracht tot verantwoord ontwikkelen, de natuur heeft dat niet. De natuur heeft een eigen relatie met Schepper. In de reformatorische wijsbegeerte worden er drie grondmotieven genoemd die gebruikt kunnen worden bij het reflecteren op AI: de menselijke opdracht tot verantwoorde ontwikkeling van de schepping, en dus ook AI-systemen; de nuchtere notie dat mensen altijd onvolmaakte AI-systemen zullen creëren (de zondeval werkt ook door in techniek); en het verwachte herstel van mens en schepping, waarbij de mens de opdracht is gegeven om daaraan mee te werken, ook met behulp van AI. Deze noties hebben praktische gevolgen voor hoe christenen werken in AI en hoe zij met AI om kunnen gaan. Denk bijvoorbeeld aan duurzaam gebruik van AI en een bewustzijn van de water- en energiekosten van LLM-gedreven chatbots. Maar denk ook aan het idee dat AI door en door menselijke techniek is. Het zijn bedrijven en hun menselijke motieven die de urgentie van AI benadrukken, al dan niet om hun aandeel belangrijker te maken op de handelsbeurzen. Daarnaast zijn ecologische en theologische motieven belangrijk, maar hebben ze ook eenzijdigheden die misbruikt kunnen worden door degenen die de mens als natuurlijk en ontwikkelend wezen als tussenstap zien in de ontwikkeling van het heelal. Transhumanisme komt voort uit een fantastisch denken in afhankelijkheid. Verder: AI is er al en heeft al rechten, van patenten tot verkeersrechten. Het beeld van de mens en zijn behandeling is weerspiegeld in mensgelijkende machines.
2. AI en hermeneutiek
Een ander vraagstuk dat AI opwerpt voor de theologie is het vraagstuk van de hermeneutiek. Is een gegenereerde tekst van waarde op basis van de schrijver of het effect van de tekst op de lezer? Teksten kunnen gegenereerd worden, maar hebben altijd een eigenaar die de teksten oproept. De relatie tussen de maker en de tekst wordt in chatbots niet zozeer losgemaakt als wel geherdefinieerd. Er wordt meer waarde gehecht aan wat een tekst oproept bij de lezer dan aan hoe de tekst bedoeld is door de maker – de eigenaar – van de chatbot, die de statistische programma’s loslaat op data. AI-technologie is door en door menselijke technologie, niet neutraal of natuurlijk of louter fenomenaal.
3. AI, bewustzijn en mensenrechten
Op dit moment zijn chatbots redelijk in staat om menselijk over te komen in simpele gesprekken. De artikelen, maar bijvoorbeeld ook preken die chatbots maken, zijn nog wel te onderscheiden van menselijke schrijfsels, omdat een chatbot zoekt naar het meest voorkomende antwoord op basis van statistiek, en niet echt creatief of door Gods Geest geleid kan reageren. Toch zijn er twee denktrends te ontwaren waarom mensen het makkelijk vinden om in chatbots een ontwakend bewustzijn te ontdekken. In de eerste plaats omdat zij, zoals Sam Altman stelt, de mens als een domme computer, een recyclende papegaai zien waarvan een computer het op den duur vanzelf gaat winnen. Die computer is namelijk een snellere en grotere processor die alle kennis meteen kan opvragen en kan delen met andere computers, wat mensen alleen maar kunnen door de langzamere methodes van spraak en schrift. Ten tweede omdat zij, wat David Gunkel noemt, een ‘relationele draai’ maken; in plaats van als subject een ontologische uitspraak te doen over een object voordat het object iets doet, gebeurt er iets anders. Wij maken als mens (subject) een waarneming over een object (de chatbot praat en denkt), waarna wij het object op basis van die waarneming van uitvoeringen een startend bewustzijn of beginnende moraliteit toeschrijven. ‘If it walks like a duck and talks like a duck’ dan is het een eend, en dus een machine met bewustzijn en wellicht ook rechten? Als een AI-gedreven machine, door mensen voor een bepaald doel gemaakt, bewustzijn ten toon spreidt, is het de verantwoordelijkheid van zijn eigenaren en ontwerpers om daar een eerste verantwoording voor af te leggen. Wat willen zij met die bewuste machine doen? Wat betekent het dat wij daar bewustzijn aan toekennen? Aan de ene kant zijn dit diep filosofische vragen, maar door dichtbij de praktijk van bedrijfsethiek en de verantwoordelijkheid van bedrijfseigenaren en AI-ontwerpers te blijven, blijven we de menselijke verantwoordelijkheid voor iedere techniek benadrukken. AI kan alleen door mensen gegenereerd worden en mensen zijn verantwoordelijk voor techniek, niet AI zelf.
Dan nog een laatste opmerking over bewustzijn en AI. Het christelijk denken meent dat bewustzijn voornamelijk bij mensen voorkomt en dat ook bepaalde diersoorten vormen van bewustzijn hebben. Maar bewustzijn hebben of kunnen denken is geen voorwaarde voor de (bescherm)waardigheid van mensen. Het is ook geen voorwaarde of excuus om dieren en de natuur in het algemeen slecht te behandelen. Ook zij hebben een intrinsieke waarde buiten hun functionaliteiten. Mens-zijn, in deze lichamelijke vorm – van een paar cellen groot tot een einde met een afbrokkelende geest – is intrinsiek waardevol en beschermwaardig in zichzelf.
Conclusies
De theologie heeft werk aan de winkel door AI, omdat het ons mensbeeld bevraagt en wij een sterker weerwoord moeten ontwikkelen. Nu kunnen we bedenken wie wij zijn en onszelf niet reduceren tot natuur of natuurlijke ontwikkeling. Tegelijk moet de theologie ook nuchter kijken naar ontwikkelingen in het vakgebied van AI en erop wijzen dat bedrijfsethiek en maatschappelijk verantwoord ondernemen een cruciale rol blijven spelen voor de eigenaren, ontwikkelaars en gebruikers van AI.
Ten slotte: AI weerspiegelt ook de mens-, natuur- en godsbeelden die wij willen hebben. Dat betekent dat AI ook bepaalde rechten heeft, zodat natuur, techniek, mens en Schepper van elkaar onderscheiden blijven en ieder zijn eigen verantwoordelijkheid blijft zien en behouden.
M.E. Harmsen is theoloog en schrijft een proefschrift over technologie en theologie vanuit het perspectief van de reformatorische wijsbegeerte aan de Vrije Universiteit Amsterdam. Mailadres:
- Raadplegingen: 288