De paus heeft het niet over AI. Hij heeft het over ons.
Iedere keer wanneer een paus zich uitlaat over een maatschappelijk thema, ontstaat de neiging om zijn woorden direct te vertalen naar een actueel debat. Dat gebeurde eerder bij klimaatverandering, migratie en armoede, en gebeurt nu opnieuw bij artificiële intelligentie. Krantenkoppen suggereren dat de paus waarschuwt voor AI en dat het Vaticaan zich zorgen maakt over de technologische ontwikkelingen die elkaar in hoog tempo opvolgen. Toch is dat volgens mij niet de meest interessante interpretatie van zijn boodschap.
Wie iets beter kijkt naar de verwijzingen naar de Toren van Babel en de bredere context van zijn uitspraken, ziet namelijk dat het niet zozeer gaat over technologie. De paus lijkt zich veel meer zorgen te maken over de manier waarop wij als samenleving naar technologie kijken.
Zijn boodschap raakt daarmee aan een vraagstuk dat veel verder gaat dan AI alleen: wat gebeurt er wanneer mensen gaan geloven dat vrijwel ieder probleem uiteindelijk door technologie kan worden opgelost?
Dat is een interessante vraag, omdat zij precies raakt aan het huidige AI-debat. De afgelopen jaren is een sfeer ontstaan waarin kunstmatige intelligentie door sommigen wordt gepresenteerd als de volgende stap in de evolutie van kenniswerk. Niet alleen routinematige taken, maar ook analyse, adviesvorming en zelfs creativiteit zouden in toenemende mate door machines kunnen worden overgenomen. Het enthousiasme hierover is begrijpelijk.
De technologische vooruitgang is indrukwekkend en de mogelijkheden zijn op veel gebieden groter dan we enkele jaren geleden voor mogelijk hielden. Tegelijkertijd ontstaat daardoor een subtiele verschuiving in het denken. De discussie gaat steeds minder over wat technologie voor mensen kan betekenen en steeds vaker over wat mensen straks nog toevoegen ten opzichte van technologie.
Dat lijkt een klein verschil, maar het is fundamenteel. Zodra die vraag centraal komt te staan, ontstaat namelijk het risico dat menselijke eigenschappen uitsluitend nog worden beoordeeld vanuit een efficiëntieperspectief. Oordeelsvorming, ervaring, intuïtie, empathie en professionele scepsis worden dan niet langer gezien als unieke kwaliteiten, maar als factoren die vroeg of laat ook geautomatiseerd kunnen worden.
Juist daar raakt de boodschap van de paus een gevoelige snaar mij betreft. De Toren van Babel was immers niet het verhaal van mensen die nieuwe technologie ontwikkelden. Het was het verhaal van mensen die ervan overtuigd raakten dat hun technische vermogens geen grenzen meer kenden. Niet de innovatie zelf vormde het probleem, maar de overtuiging dat alles maakbaar was geworden.
Die gedachte zien we vandaag op verschillende plaatsen terug. In de technologiesector wordt regelmatig gesproken over een toekomst waarin vrijwel alle kenniswerkzaamheden geautomatiseerd zijn. In bestuurskamers wordt gespeculeerd over organisaties die grotendeels draaien op AI-agents. Binnen sommige beroepsgroepen ontstaat zelfs de vraag hoeveel jonge professionals nog nodig zijn wanneer steeds meer werkzaamheden door generatieve AI kunnen worden uitgevoerd.
Wie dagelijks met data, analytics en AI werkt, weet echter dat de werkelijkheid weerbarstiger is. Modellen kunnen patronen herkennen, voorspellingen doen en enorme hoeveelheden informatie verwerken, maar zij dragen geen verantwoordelijkheid voor de gevolgen van hun uitkomst. Zij begrijpen geen context zoals mensen die begrijpen. Zij voelen geen twijfel wanneer een uitkomst te mooi lijkt om waar te zijn. Zij kennen geen professionele scepsis en ervaren geen moreel dilemma wanneer regels, belangen en werkelijkheid met elkaar botsen.
Dat is precies de reden waarom ik al langer denk dat de discussie over AI uiteindelijk niet zal draaien om kunstmatige intelligentie, maar om menselijke intelligentie. Naarmate technologie krachtiger wordt, neemt de waarde van typisch menselijke eigenschappen niet af, maar juist toe. Het vermogen om verbanden te leggen, de juiste vragen te stellen, verantwoordelijkheid te nemen voor besluiten en onzekerheden te beoordelen wordt belangrijker naarmate systemen complexer worden.
Misschien is dat ook de reden waarom de boodschap van de paus zoveel aandacht krijgt. Niet omdat hij een technologie-expert is, maar omdat hij een vraag stelt die in veel AI-discussies onderbelicht blijft. We praten voortdurend over wat AI kan worden, maar veel minder over wat wij zelf willen blijven zijn.
Dat is uiteindelijk geen technologische discussie, maar een maatschappelijke. En misschien zelfs een economische. Want organisaties die in de toekomst succesvol willen zijn, zullen waarschijnlijk niet worden onderscheiden door de vraag welke AI-tools zij gebruiken. Die tools worden immers voor iedereen beschikbaar. Het verschil zal eerder worden gemaakt door de kwaliteit van de mensen die met die technologie werken, de keuzes die zij maken en de verantwoordelijkheid die zij bereid zijn te nemen.
Misschien heeft de paus dus gelijk. Misschien gaat het debat over AI uiteindelijk veel minder over machines dan we denken. En veel meer over de vraag hoeveel vertrouwen we nog hebben in ons eigen menselijk oordeel.
Dat zou zomaar eens de belangrijkste technologievraag van dit decennium kunnen zijn.