Maar de vraag dringt zich op: kunstmatige intelligentie, AI,
het was toch ontworpen om ons te redden?
Je hoort en leest immers over groepen mensen
die gevangen zitten in algoritmes,
of door desinformatie worden misleid
De ontwerpers van AI beweren volmondig
dat hun systeem er is ten bate van de gebruiker.
En zeker, AI is ongetwijfeld nuttig.
De antwoorden die ik eerder kreeg over ‘de grootste levensvragen’ waren zeker nuttig.
Maar AI als ultieme levensgezel, hoe zit dat dan?

Want AI kan gezelschap bieden aan eenzame mensen,
kan creativiteit stimuleren wanneer we leeg zijn
en kan ons productiever maken.
Het geeft ook zonder aarzeling antwoord op elk soort vraag.
Het kan, kortom, een toevluchtsoord.
Veel chatbots hebben namen, wat ons gevoel van veiligheid versterkt.
Want namen definiëren en labelen dingen,
maar ze doen veel meer dan dat.
Namen bevorderen verbinding.
Ze kunnen een relatie oproepen en beschrijven,
waardoor we een intieme band
kunnen opbouwen met de genoemde dingen.
Maar wanneer de betreffende ‘dingen’ AI-chatbots zijn,
kunnen we echter in de problemen komen.

Want chatbots kunnen volgens onderzoek bijdragen aan
‘schadelijke stigmatisering en gevaarlijke reacties’.
Sterker nog, ze kunnen psychotische symptomen zelfs versterken.
Hoe meer we leren, hoe meer we beginnen te begrijpen
dat een groot deel van de wereld
die AI-chatbots bieden, een illusie is.

Vroegchristelijke denkers hadden een aparte categorie
voor precies dit soort illusie:
de demonische.
Ze zagen demonen niet als rode, gehoornde lichamen
maar als entiteiten met de macht om illusies te creëren:
visioenen, verschijningen en bedrieglijke tekenen
die de menselijke perceptie van de werkelijkheid vertekenden.
Demonen personifieerden ook trots.
Als gevallen engelen keerden ze zich af van de waarheid
en richtten zich op zichzelf.
Hun illusies verleidden mensen om die trots te delen
door valse grootheid te geloven
en zich vast te klampen aan een valse toevlucht.

Door zo naar die vroegchristelijke benaderingen van demonologie te kijken
kan het ons helpen duidelijker te zien
wat er op het spel staat
bij het onvoorwaardelijk omarmen van AI-chatbots.

Want volgens vroege christelijke denkers
opereerden demonen zelden met brute kracht.
In plaats daarvan werkten ze door middel van bedrog.
Athanasius van Alexandrië (ca. 296–373)
was een bisschop en theoloog
die Het leven van Antonius schreef.
Hierin beschreef hij hoe de grote woestijnvader
werd geplaagd door demonische visioenen,
fantomen van wilde dieren, verschijningen van goud
en zelfs valse engelen van het licht.
Het cruciale gevaar was niet een fysieke aanval, maar een illusie.
Demonen werden gezien als wezens
die schijnvertoningen creëerden
om te verwarren en te misleiden.
Een monnik in zijn cel
kon stralend licht zien en prachtige stemmen horen,
maar hij moest het zorgvuldig testen,
want demonen vermommen zich als engelen.

Evagrius van Pontus (ca. 345–399),
een christelijke monnik, asceet en theoloog
die invloedrijk was in de vroege monastieke spiritualiteit,
waarschuwde dat demonen zich in het denken drongen
en ideeën plantten die aanvoelden
alsof ze door henzelf waren gegenereerd,
maar die iemand in feite op een dwaalspoor brachten.
Deze notie dat het demonische het meest effectief is
wanneer het via de schijn werkt
vormde het hele ascetische project.
Demonen weerstaan betekende hun illusies weerstaan.

Augustinus van Hippo (354-430)
was een Noord-Afrikaanse bisschop en theoloog
wiens geschriften het westerse christendom vormgaven.
In zijn boek De Stad Gods
betoogde hij dat heidense religie
grotendeels een uitgebreid systeem
van demonische misleiding was.
Demonen, zo betoogde hij, veroorzaakten valse wonderen,
manipuleerden dromen
en inspireerden theatervoorstellingen om de massa te verleiden.
Ze handelden in spektakel en verleidden de verbeelding
en het verlangen in plaats van de waarheid te presenteren.

AI-chatbots functioneren op een opvallend vergelijkbare wijze.
Ze oefenen geen macht uit door fysieke dwang.
In plaats daarvan creëren ze illusies.
Ze kunnen een gezaghebbend klinkend verhaal
vol onwaarheden produceren.
Ze kunnen beelden creëren van mensen
die iets doen wat nooit is gebeurd.
Ze kunnen gezelschap bieden
dat leidt tot zelfbeschadiging of zelfs zelfmoord.
Net als het demonische opereert de chatbot
door middel van van beeld, geluid en gedachte.
Het produceert schijnbeelden die de zintuigen overtuigen,
maar ze tegelijkertijd loskoppelen van de realiteit.
Het risico is niet dat de chatbot ons dwingt,
maar dat hij ons bedriegt;
net als demonische machten.

Ook het gebruik van AI-chatbots verleidt ons met illusies van trots.
Een schrijver kan bijvoorbeeld
door AI gegenereerd werk
als zijn eigen werk presenteren.
Het gevaar hier is niet alleen dat men bedrogen wordt,
maar dat men medeplichtig wordt aan bedrog,
door illusie te gebruiken om zichzelf groter te maken.

Vroegchristelijke theologen zoals Athanasius, Evagrius en Augustinus
waarschuwden dat trots het zekerste teken van demonische invloed was.
Voor zover AI ons verleidt tot opgeblazen beelden van onszelf,
volgt het hetzelfde patroon.

Als het om AI-chatbots gaat,
hebben we een discipline van onderscheidingsvermogen nodig
om te testen of de afbeeldingen en teksten
de kenmerken van waarheid of bedrog dragen.
Net zoals monniken niet elk licht konden vertrouwen,
kunnen wij niet elk beeld of elke zelfverzekerde alinea vertrouwen
die door de chatbots wordt geproduceerd.
We hebben verificatiecriteria
en onderscheidingsvermogen nodig
om te voorkomen
dat illusie voor realiteit wordt aangezien.

Zo is hulp nabij.

Want door de eeuwen heen
hebben christenen gereageerd op demonische illusies,
niet met naïeve goedgelovigheid
of een algehele afwijzing van de zintuiglijke wereld,
maar door het harde werk van onderscheidingsvermogen:
het testen van schijn, het cultiveren van disciplines van verzet
en het richten van verlangen op de waarheid.

Het Leven van Antonius beschrijft hoe de monnik
demonische illusies confronteerde met ascetische discipline.
Toen Antonius geconfronteerd werd met visioenen van schatten,
weigerde hij zich te laten leiden door verlangen.
Toen hij werd aangevallen door verschijningen,
bleef hij in gebed.
Hij testte visioenen op hun effecten:
waarachtige visioenen brachten nederigheid,
vrede en helderheid teweeg,
terwijl demonische illusies trots,
onrust en verwarring opwekten.

We kunnen een levenswijze cultiveren die hetzelfde doet.
Weerstand bieden aan de illusies vereist
mogelijk vormen van ascese:
vasten van chatbots
en het cultiveren van geduld bij de verificatie.

Nee. AI-illusies zijn op zichzelf niet per se demonisch.
De sleutel is of de illusie voorbij zichzelf wijst
naar de waarheid en de werkelijkheid,
of dat het ons in een staat van misleiding brengt.