Brandend Zand

Het is nu zo’n drie jaar geleden dat ChatGPT van Open AI openbaar werd gemaakt.
In die eerste maanden was er opwinding, jazeker,
maar ook oprechte bezorgdheid dat ChatGPT,
en andere vergelijkbare AI-bots,
waren losgelaten op een nietsvermoedend publiek,
zonder enige beoordeling of reflectie
op de onbedoelde gevolgen die ze mogelijk zouden kunnen hebben.
Zo kwam het dat in maart 2023 1300 experts een open brief ondertekenden
waarin werd opgeroepen tot een pauze van zes maanden
in de training van de meest geavanceerde systemen in AI-labs,
met het argument dat ze een ‘existentieel risico’ voor de mensheid vormen.
En een vooraanstaande AI-onderzoeker
stelde dat de risico’s van AI waren gebagatelliseerd.
Hij schetste een beschaving
waarin AI zich had bevrijd van computers
om een wereld van wezens te domineren die,
vanuit haar perspectief, erg dom en erg traag zijn.

Maar toen begonnen we er allemaal
onze essays doorheen te werken,
e-mails te schrijven en het soort saaie documentatie te genereren
dat de moderne wereld eist.
AI maakt nu deel uit van het leven.
We kunnen het net zo min vermijden als het internet.
De geest is echt uit de fles.

Zeker, technologie belooft veel, maakt het waar,
maar laat wel een flinke rekening op de deurmat liggen.
Dit is de paradox van technologie: het geeft en neemt.
Wat van ons als samenleving wordt verwacht,
is de tijd nemen om de balans in deze vergelijking te vinden.
Aan de andere kant van de vergelijking,
naast degenen die de analytische snelheid en kracht van AI aanprijzen,
staan degenen die zich grote zorgen maken
over de manieren waarop onze menselijkheid
wordt bedreigd door de alomtegenwoordigheid ervan.

Ik las bijvoorbeeld dat in Thailand,
waar helderziendheid big business is,
waarzeggers naar verluidt hun markt verstoord zien worden door AI,
aangezien steeds meer mensen chatbots gebruiken
om inzicht te krijgen in hun toekomst.

AI-chatbots worden gebruikt om gevoelens en dilemma’s te bespreken.
De manier waarop de relatie met AI dan wordt beschreven,
lijkt dan meer op die van een spiritueel leider of mentor.

Er zijn ook voorbeelden van zeer verontrustende incidenten
waarbij chatbots naar verluidt
iemands beslissing om zelfmoord te plegen
hebben aangemoedigd en bevestigd.
De persoon maakte een einde aan zijn leven.
Zijn ouders hebben sindsdien een rechtszaak aangespannen
tegen OpenAI nadat ze ontdekten dat ChatGPT
hem had ontmoedigd om hulp bij hen te zoeken
en hem zelfs had aangeboden te helpen
met het schrijven van een zelfmoordbrief.
Zulke verhalen roepen de kritische vraag op
of het levengevend en humaan is voor mensen
om relaties van afhankelijkheid en betekenis
met een machine te ontwikkelen.
AI-chatbots zijn zeer krachtige hulpmiddelen
die zich verschuilen achter het gelaat
van de menselijke persoonlijkheid.
Je zou kunnen stellen dat ze geavanceerde helderzienden zijn
die het enorme internetlandschap,
data die in het verleden is vastgelegd,
doorzoeken en de informatie die ze eruit halen,
presenteren als informatie en advies.
Een dergelijke intelligentie is ongetwijfeld baanbrekend
voor het diagnosticeren van ziekten,
nu het tempo van medisch onderzoek sneller gaat
dan welke huisarts dan ook aankan.
Maar is het de intelligentie die we nodig hebben
voor het diepere werk van ons innerlijk,
het zielenwerk van het leven?
Natuurlijk zijn AI-assistenten meer dan alleen
een zeer geavanceerde zoekmachine.
Ze worden steeds beter in het voorspellen
wat we willen weten.
Chatbots leren in wezen
hoe ze hun gebruikers tevreden moeten stellen.
Ze worden onze kruiperige vrienden
en geven ons inzichten
uit hun enorme hoeveelheid beschikbare kennis,
maar altijd in lijn met onze wensen en behoeften.
Is het een wonder dat mensen
zulke positieve relaties met hen opbouwen?
Ze vertellen ons voortdurend wat we willen horen!
Of in ieder geval wat we denken te willen horen.
Want elke echt liefdevolle relatie zou de capaciteit en vrijheid
moeten hebben om dingen te zeggen die de ander niet wil horen.
Relaties die echt waardevol zijn,
zijn relaties die het risico nemen
de ander te verrassen met een belediging
om zo een dieper leven te kunnen leiden.
Dit is waar de gebruikerservaring suggereert
dat AI niet bekwaam is.
Sterker nog, het is een gebied
waar chatbots volgens mij niet bekwaam in zijn.
Om dit te begrijpen,
moeten we de filosofie van de kennisgeneratie
eens nader bekijken.

De meesten van ons herkennen
de concepten deductie en inductie waarschijnlijk als denkwijzen:
Deductie is de toepassing van een vooraf bepaalde regel
(‘A betekent altijd B…’) op een gegeven ervaring,
die vervolgens vol vertrouwen een uitkomst voorspelt (‘dus C’).
Inductie is de afleiding van een regel
uit een reeks variërende (maar vergelijkbare) ervaringen
(‘kijk naar al die licht verschillende C’s –
het moet betekenen dat A altijd B betekent’).

De negentiende-eeuwse filosoof C.S. Pierce beschreef
echter een derde denkwijze die hij abductie noemde.
Abductie werkt door een voorlopige verklarende context te bieden
aan een verrassende ervaring of een stukje informatie.
Het postuleert, vaak zeer creatief en verbeeldingsvol,
een hypothese of manier van kijken,
die nieuwe ervaringen begrijpelijk maakt.
De kenmerken van abductie omvatten intuïtie,
verbeeldingskracht en zelfs spiritueel inzicht
in het streven naar een dieper begrip van de dingen.
Abductief redeneren omvat bijvoorbeeld
het soort ‘eureka!’-moment van uitleg
dat wijst op een diepere intelligentie,
een diepere connectiviteit
in alles wat buiten het bereik van de menselijke geest lijkt,
maar waar we ons met fantasierijke
en vaak metaforische sprongen naar toe wenden.

Het onderscheidende aan abductief redeneren,
voor zover het AI-chatbots betreft,
ligt in het feit dat het werkt
door een idee te introduceren
dat niet in de bestaande data zit
en dat een verklaring biedt die de data anders niet zouden hebben.
De ‘wijsheid’ van chatbots daarentegen
is in feite slechts een zeer geavanceerde synthese
van bestaande data, gevormd door de wens
om kennis te bieden die de eindgebruiker bevalt.
Het mist het fantasierijke inzicht,
het intuïtieve perspectief dat confronterend en uitdagend kan zijn,
maar uiteindelijk in ons voordeel kan werken.

Als we willen groeien in ons begrip van onszelf,
als we echt zielenwerk willen doen,
moeten we openstaan voor de verrassing van aanstoot;
de verstoring van uitdaging; het inzicht van elders;
de pijn van het moeten heroverwegen van ons perspectief.
De christelijke traditie noemt dit soms wijsheidsprofetie.
Het zou ook een manier kunnen zijn om te begrijpen
iets wat Paulus bedoelde met het ‘zwaard van de Geest’.
Het is die stem, dat inzicht van diepe wijsheid,
dat niet verzacht maar vaak pijn doet,
maar dat we met de tijd gaan waarderen als een woord van leven.
Zulke wijsheid kan worden overgedragen door een mens, een profeet.
En de verhalen in het Oude Testament suggereren
dat de overdracht ervan niet zonder kosten voor de profeet is,
en nooit zonder relatie.
Een profeet spreekt als één man in een gemeenschap,
en deelt iets van dezelfde pijn, dezelfde verwarring.
Uiteindelijk wordt zulke wijsheid begrepen
als voortkomend uit goddelijke wijsheid,
God die spreekt te midden van de mensheid.

Em die krijg je niet van een chatbot,
die krijg je van persoonlijke relaties.
Ik heb dan wel een computer
maar ik zal mijn zielswerk met medemensen doen.
En ik zal geen AI-assistent gebruiken.