‘Controleer de feiten.’

‘Onderzoek het bewijs.’

‘Correlatie is niet hetzelfde als oorzakelijkheid.’

We hebben deze uitspraken waarschijnlijk al zo vaak gehoord
dat ze in ons geheugen gebeiteld zitten.
Als dat zo was, zou misinformatie
nooit een poot aan de grond krijgen..
Maar er zijn voorbeelden te over
van misinformatie die zich razendsnel verspreidt.

Dit komt doordat onze interne, vaak onbewuste, vooroordelen
ervoor zorgen dat we onjuiste beweringen voor waar aannemen.
Een van de boosdoeners is een bevestigingsvooroordeel
of confirmation bias:
de verleiding om bewijs kritiekloos te accepteren
als het bevestigt wat we graag waar zouden willen zien,
en een bewering meteen te verwerpen
als het botst met ons wereldbeeld.
Deze vooroordelen kunnen heel subtiel ons denken binnensluipen;
nee, ze beperken zich niet tot onderwerpen
zoals immigratie of wapenbeheersing,
waarbij de emoties hoog op kunnen lopen.
Voorbeeld:
Er wordt vaak beweerd dat borstvoeding het IQ van kinderen verhoogt,
hoewel correlatie geen causaliteit is.
Maar omdat velen van ons natuurlijke moedermelk
zouden vertrouwen boven flesvoeding,
slikken we deze bewering.

Confirmation bias is moeilijk te doorbreken.
In een onderzoek namen drie neurowetenschappers
studenten met liberale politieke opvattingen
en sloten ze hen aan op een functionele MRI-scanner.
De onderzoekers lazen uitspraken voor
waarmee de deelnemers eerder hadden gezegd
het eens te zijn,
ze gaven vervolgens tegenstrijdig bewijs
en maten de hersenactiviteit van de studenten.
Er was geen effect wanneer niet-politieke beweringen
werden aangevochten,
maar het tegenspreken van politieke standpunten
activeerde hun amygdala:
Dat is hetzelfde deel van de hersenen dat wordt geactiveerd
wanneer een tijger je aanvalt,
wat dus een ‘vecht-of-vlucht’-reactie opwekt.

Confirmation bias speelt dus een grote rol
bij kwesties waar we al een mening over hebben.
Maar over veel onderwerpen
hebben we geen vooroordeel.
Als er niets te bevestigen valt,
is er geen confirmation bias,
dus we hopen dat we deze kwesties
met een heldere blik kunnen benaderen.

Maar helaas kan er ook een andere bias de kop opsteken:
zwart-witdenken.
Deze bias houdt in dat we de wereld in zwart-wit bekijken:
iets is altijd goed of altijd slecht, zonder grijstinten.

Het bestverkochte afslankboek ooit,
Dr. Atkins’ Nieuwe Dieet Revolutie,
profiteerde van deze vooringenomenheid.
Vóór Atkins hadden mensen misschien
geen sterke mening over de vraag
of koolhydraten goed of slecht waren.
Maar zolang ze denken
dat het het een of het ander moet zijn,
zonder een middenweg,
zullen ze vasthouden aan een eenzijdige aanbeveling.
Dat is wat het Atkinsdieet deed:
Het had één regel: vermijd alle koolhydraten.
Niet alleen geraffineerde suiker,
niet alleen simpele koolhydraten, maar alle koolhydraten.
Je kunt beslissen of je iets eet
door te kijken naar de ‘koolhydraten’-regel op het voedingsetiket,
zonder je zorgen te maken
of de koolhydraten complex of simpel,
natuurlijk of bewerkt zijn.
Deze simpele regel speelde in op het zwart-witdenken
en maakte hem gemakkelijk te volgen.

Om een bestseller te schrijven,
hoefde Atkins dus niet gelijk te hebben.
Hij hoefde alleen maar extreem te zijn.

Dus, wat doen we eraan?

De eerste stap is het erkennen
van onze eigen vooroordelen.
Als een bewering onze emoties aanwakkert
en we staan te popelen
om die te delen of te verwerpen,
of als het extreem is
en een universeel recept geeft,
moeten we voorzichtig te werk gaan.

De tweede stap is het stellen van vragen,
vooral als het een bewering is
die we graag accepteren.
Eerst is het zaak om
‘het tegenovergestelde te overwegen’.
Als een onderzoek
tot de tegenovergestelde conclusie was gekomen,
welke gaten zou je er dan in prikken?
Vraag jezelf vervolgens af
of deze bedenkingen
nog steeds van toepassing zijn,
ook al levert het de resultaten op die je wilt.

Neem de overvloed aan onderzoeken
die beweren dat duurzaamheid
de bedrijfsprestaties verbetert.
Wat als een artikel had aangetoond
dat duurzaamheid de prestaties verslechtert?
Voorstanders van duurzaamheid
zouden een heleboel bezwaren opwerpen.
Ten eerste,
hoe hebben de onderzoekers duurzaamheid gemeten?
Waren het de duurzaamheidsclaims
van een bedrijf
in plaats van de daadwerkelijke uitvoering ervan?
Ten tweede,
hoe groot was de steekproef die ze analyseerden?
Als het een handvol bedrijven betrof
door slechts één jaar heen,
zou de tegenvallende prestatie
te wijten kunnen zijn aan willekeur;
er zijn onvoldoende gegevens
om sterke conclusies te trekken.
Ten derde,
is er sprake van oorzakelijkheid of slechts correlatie?
Misschien is hoge duurzaamheid
niet de oorzaak van lage prestaties,
maar is er iets anders,
zoals strenge regelgeving,
dat beide veroorzaakt.
Nu je je ogen hebt geopend
voor potentiële problemen,
vraag jezelf dan af
of ze een bedreiging vormen
voor het onderzoek dat je graag wilt aanprijzen.

Een tweede vraag is om je af te vragen wie de auteurs zijn.
Denk na over wie het onderzoek heeft geschreven
en wat hun motieven zijn om de bewering te doen
die ze hebben gedaan.
Veel rapporten worden geproduceerd
door organisaties die zich richten
op belangenbehartiging
in plaats van wetenschappelijk onderzoek.
Vraag je dan af:
‘Zouden de auteurs het artikel hebben gepubliceerd
als het tegenovergestelde resultaat was gevonden?’
Zo niet,
dan hebben ze mogelijk selectief gekozen
voor hun gegevens of methodologie.

Naast vooringenomenheid
is een andere belangrijke eigenschap
de expertise van de auteurs
in het uitvoeren van wetenschappelijk onderzoek.
Vooraanstaande CEO’s en investeerders
hebben aanzienlijke ervaring,
en er is niemand beter gekwalificeerd
om een verslag te schrijven
over de bedrijven
die ze hebben geleid
of de investeringen die ze hebben gedaan.
Sommigen gaan echter verder
dan het vertellen van oorlogsverhalen
en verkondigen een universele set regels voor succes;
maar zonder wetenschappelijk onderzoek
weten we niet of deze principes
in het algemeen werken.
Een simpele vraag is:
‘Als dezelfde studie door dezelfde auteurs was geschreven,
met dezelfde referenties,
maar de tegenovergestelde resultaten zou vinden,
zou je het dan nog steeds geloven?’

Tegenwoordig kan iedereen een bewering doen,
een complottheorie lanceren
of een statistiek publiceren.
Als mensen willen dat het waar is,
gaat het viraal.
Maar we hebben de middelen om dit te bestrijden.
We weten hoe we onderscheidingsvermogen moeten tonen,
vragen moeten stellen en
eventuele negatieve gevolgen
van bedrijfsactiviteiten
moeten uitvoeren
als een bevinding ons niet bevalt.
De truc is om onze vooroordelen te beteugelen
en dezelfde kritische blik te gebruiken
wanneer we iets zien dat we graag willen accepteren.

 

Maar de vraag dringt zich op: kunstmatige intelligentie, AI,
het was toch ontworpen om ons te redden?
Je hoort en leest immers over groepen mensen
die gevangen zitten in algoritmes,
of door desinformatie worden misleid
De ontwerpers van AI beweren volmondig
dat hun systeem er is ten bate van de gebruiker.
En zeker, AI is ongetwijfeld nuttig.
De antwoorden die ik eerder kreeg over ‘de grootste levensvragen’ waren zeker nuttig.
Maar AI als ultieme levensgezel, hoe zit dat dan?

Want AI kan gezelschap bieden aan eenzame mensen,
kan creativiteit stimuleren wanneer we leeg zijn
en kan ons productiever maken.
Het geeft ook zonder aarzeling antwoord op elk soort vraag.
Het kan, kortom, een toevluchtsoord.
Veel chatbots hebben namen, wat ons gevoel van veiligheid versterkt.
Want namen definiëren en labelen dingen,
maar ze doen veel meer dan dat.
Namen bevorderen verbinding.
Ze kunnen een relatie oproepen en beschrijven,
waardoor we een intieme band
kunnen opbouwen met de genoemde dingen.
Maar wanneer de betreffende ‘dingen’ AI-chatbots zijn,
kunnen we echter in de problemen komen.

Want chatbots kunnen volgens onderzoek bijdragen aan
‘schadelijke stigmatisering en gevaarlijke reacties’.
Sterker nog, ze kunnen psychotische symptomen zelfs versterken.
Hoe meer we leren, hoe meer we beginnen te begrijpen
dat een groot deel van de wereld
die AI-chatbots bieden, een illusie is.

Vroegchristelijke denkers hadden een aparte categorie
voor precies dit soort illusie:
de demonische.
Ze zagen demonen niet als rode, gehoornde lichamen
maar als entiteiten met de macht om illusies te creëren:
visioenen, verschijningen en bedrieglijke tekenen
die de menselijke perceptie van de werkelijkheid vertekenden.
Demonen personifieerden ook trots.
Als gevallen engelen keerden ze zich af van de waarheid
en richtten zich op zichzelf.
Hun illusies verleidden mensen om die trots te delen
door valse grootheid te geloven
en zich vast te klampen aan een valse toevlucht.

Door zo naar die vroegchristelijke benaderingen van demonologie te kijken
kan het ons helpen duidelijker te zien
wat er op het spel staat
bij het onvoorwaardelijk omarmen van AI-chatbots.

Want volgens vroege christelijke denkers
opereerden demonen zelden met brute kracht.
In plaats daarvan werkten ze door middel van bedrog.
Athanasius van Alexandrië (ca. 296–373)
was een bisschop en theoloog
die Het leven van Antonius schreef.
Hierin beschreef hij hoe de grote woestijnvader
werd geplaagd door demonische visioenen,
fantomen van wilde dieren, verschijningen van goud
en zelfs valse engelen van het licht.
Het cruciale gevaar was niet een fysieke aanval, maar een illusie.
Demonen werden gezien als wezens
die schijnvertoningen creëerden
om te verwarren en te misleiden.
Een monnik in zijn cel
kon stralend licht zien en prachtige stemmen horen,
maar hij moest het zorgvuldig testen,
want demonen vermommen zich als engelen.

Evagrius van Pontus (ca. 345–399),
een christelijke monnik, asceet en theoloog
die invloedrijk was in de vroege monastieke spiritualiteit,
waarschuwde dat demonen zich in het denken drongen
en ideeën plantten die aanvoelden
alsof ze door henzelf waren gegenereerd,
maar die iemand in feite op een dwaalspoor brachten.
Deze notie dat het demonische het meest effectief is
wanneer het via de schijn werkt
vormde het hele ascetische project.
Demonen weerstaan betekende hun illusies weerstaan.

Augustinus van Hippo (354-430)
was een Noord-Afrikaanse bisschop en theoloog
wiens geschriften het westerse christendom vormgaven.
In zijn boek De Stad Gods
betoogde hij dat heidense religie
grotendeels een uitgebreid systeem
van demonische misleiding was.
Demonen, zo betoogde hij, veroorzaakten valse wonderen,
manipuleerden dromen
en inspireerden theatervoorstellingen om de massa te verleiden.
Ze handelden in spektakel en verleidden de verbeelding
en het verlangen in plaats van de waarheid te presenteren.

AI-chatbots functioneren op een opvallend vergelijkbare wijze.
Ze oefenen geen macht uit door fysieke dwang.
In plaats daarvan creëren ze illusies.
Ze kunnen een gezaghebbend klinkend verhaal
vol onwaarheden produceren.
Ze kunnen beelden creëren van mensen
die iets doen wat nooit is gebeurd.
Ze kunnen gezelschap bieden
dat leidt tot zelfbeschadiging of zelfs zelfmoord.
Net als het demonische opereert de chatbot
door middel van van beeld, geluid en gedachte.
Het produceert schijnbeelden die de zintuigen overtuigen,
maar ze tegelijkertijd loskoppelen van de realiteit.
Het risico is niet dat de chatbot ons dwingt,
maar dat hij ons bedriegt;
net als demonische machten.

Ook het gebruik van AI-chatbots verleidt ons met illusies van trots.
Een schrijver kan bijvoorbeeld
door AI gegenereerd werk
als zijn eigen werk presenteren.
Het gevaar hier is niet alleen dat men bedrogen wordt,
maar dat men medeplichtig wordt aan bedrog,
door illusie te gebruiken om zichzelf groter te maken.

Vroegchristelijke theologen zoals Athanasius, Evagrius en Augustinus
waarschuwden dat trots het zekerste teken van demonische invloed was.
Voor zover AI ons verleidt tot opgeblazen beelden van onszelf,
volgt het hetzelfde patroon.

Als het om AI-chatbots gaat,
hebben we een discipline van onderscheidingsvermogen nodig
om te testen of de afbeeldingen en teksten
de kenmerken van waarheid of bedrog dragen.
Net zoals monniken niet elk licht konden vertrouwen,
kunnen wij niet elk beeld of elke zelfverzekerde alinea vertrouwen
die door de chatbots wordt geproduceerd.
We hebben verificatiecriteria
en onderscheidingsvermogen nodig
om te voorkomen
dat illusie voor realiteit wordt aangezien.

Zo is hulp nabij.

Want door de eeuwen heen
hebben christenen gereageerd op demonische illusies,
niet met naïeve goedgelovigheid
of een algehele afwijzing van de zintuiglijke wereld,
maar door het harde werk van onderscheidingsvermogen:
het testen van schijn, het cultiveren van disciplines van verzet
en het richten van verlangen op de waarheid.

Het Leven van Antonius beschrijft hoe de monnik
demonische illusies confronteerde met ascetische discipline.
Toen Antonius geconfronteerd werd met visioenen van schatten,
weigerde hij zich te laten leiden door verlangen.
Toen hij werd aangevallen door verschijningen,
bleef hij in gebed.
Hij testte visioenen op hun effecten:
waarachtige visioenen brachten nederigheid,
vrede en helderheid teweeg,
terwijl demonische illusies trots,
onrust en verwarring opwekten.

We kunnen een levenswijze cultiveren die hetzelfde doet.
Weerstand bieden aan de illusies vereist
mogelijk vormen van ascese:
vasten van chatbots
en het cultiveren van geduld bij de verificatie.

Nee. AI-illusies zijn op zichzelf niet per se demonisch.
De sleutel is of de illusie voorbij zichzelf wijst
naar de waarheid en de werkelijkheid,
of dat het ons in een staat van misleiding brengt.