Waarom we net doen alsof AI kan dromen
Het begint vaak onschuldig, ergens halverwege een gesprek of presentatie, wanneer iemand zegt dat “de AI denkt dat dit de beste keuze is” of dat “het model zelf met dit antwoord kwam”, en niemand daar echt van opkijkt omdat het logisch klinkt en prettig praat.
Voor je het weet, schuiven er woorden in het gesprek die een stap verder gaan; intuïtie, creativiteit, soms zelfs iets als bewustzijn, alsof we langzaam accepteren dat systemen niet alleen output genereren, maar ook iets ervaren wat daarop lijkt.
En precies daar gebeurt iets interessants, want op dat moment beschrijven we niet langer technologie, maar onze eigen interpretatie ervan.
Het ongemakkelijke is dat bijna iedereen ergens wel voelt dat het niet klopt, dat er geen sprake is van denken zoals wij dat kennen, maar dat gevoel verdwijnt opvallend snel zodra de output overtuigend genoeg wordt. Zodra een systeem zich vloeiend uitdrukt, logisch redeneert en antwoorden geeft die lijken op wat een collega zou zeggen, schakelt er iets in ons hoofd om, waardoor we geneigd zijn om er automatisch betekenis achter te zoeken.
Dat mechanisme is niet nieuw, maar wordt door AI op een schaal zichtbaar die we nog niet eerder hebben meegemaakt, omdat taal voor ons de ultieme drager is van begrip. Wie goed praat, begrijpt blijkbaar ook wat hij zegt, althans, zo hebben we het altijd ervaren.
Alleen gaat die redenering hier niet op.
Wat een model doet, hoe indrukwekkend het resultaat ook is, heeft niets te maken met begrijpen, voelen of bedenken in de menselijke zin van het woord, maar met het voorspellen van wat het meest waarschijnlijke volgende woord is in een reeks, gebaseerd op patronen die zijn geleerd uit enorme hoeveelheden data. Dat proces is tegelijkertijd simpel en extreem krachtig, omdat het in staat is om output te genereren die zo dicht tegen menselijke communicatie aanligt dat het onderscheid vervaagt.
En precies in dat vervagen ontstaat de illusie.
Die illusie wordt vervolgens niet gecorrigeerd, maar juist versterkt door hoe we over AI praten, omdat een verhaal over “een model dat waarschijnlijkheden optimaliseert” weinig verbeelding oproept, terwijl het idee van een systeem dat denkt, leert en misschien zelfs “droomt” direct aanspreekt en blijft hangen. Niet omdat het waar is, maar omdat het past bij hoe wij de wereld begrijpen en hoe we complexe dingen vertaalbaar maken naar iets herkenbaars.
Wat begint als een handige manier om iets uit te leggen, verschuift daarmee langzaam naar een overtuiging die steeds minder wordt bevraagd, simpelweg omdat iedereen dezelfde taal gaat gebruiken.
De echte denkfout zit echter nog een laag dieper, en heeft te maken met hoe wij conclusies trekken op basis van uitkomsten, omdat we geneigd zijn om een proces te beoordelen op wat het oplevert, zonder stil te staan bij hoe dat resultaat tot stand komt. Wanneer een systeem een antwoord geeft dat voelt als een gedachte, compleet met nuance en structuur, ligt het voor de hand om te veronderstellen dat er ook een vorm van denken achter zit, terwijl dat in werkelijkheid niet het geval is.
We zien iets wat lijkt op een menselijke uitkomst, en vullen het proces automatisch in met iets menselijks.
Dat is begrijpelijk, maar het is ook precies waar het misgaat.
Interessant genoeg houden zelfs professionals deze manier van praten in stand, niet omdat ze werkelijk geloven dat systemen denken, maar omdat het simpelweg makkelijker communiceert en sneller tot de kern lijkt te komen. Alleen heeft die taal een bijeffect dat zelden wordt uitgesproken, namelijk dat ze het beeld bevestigt dat AI meer is dan een systeem dat patronen herkent en voorspellingen doet.
Taal blijkt daarin geen neutraal middel, maar een mechanisme dat onze werkelijkheid vormgeeft, waardoor wat begint als gemak langzaam verandert in overtuiging.
En die overtuiging heeft consequenties.
Want zolang we blijven doen alsof AI “denkt”, gaan we verwachtingen creëren die niet waargemaakt kunnen worden, en dat leidt uiteindelijk tot verkeerde toepassingen, verkeerde beslissingen en een teleurstelling die ten onrechte wordt toegeschreven aan de technologie zelf. Niet omdat die tekortschiet, maar omdat wij haar iets laten zijn wat ze niet is.
Misschien is dat wel de kern van wat hier gebeurt, namelijk dat we vloeiende taal verwarren met begrip, en dat we daardoor geneigd zijn om eigenschappen toe te schrijven aan systemen die ze simpelweg niet bezitten, hoe overtuigend de output ook klinkt.
AI praat niet omdat het iets begrijpt, maar omdat het extreem goed heeft geleerd hoe woorden elkaar opvolgen.
Dat is minder romantisch dan het idee van een systeem dat droomt.
Maar het is wel de realiteit waar we mee moeten werken.