Tag: hallucineren

Door drs. Pieter de Kok RA Nieuw onderzoek van Anthropic laat zien dat slechts 250 bewust besmette teksten voldoende zijn om een taalmodel blijvend te manipuleren — zonder dat iemand het doorheeft. De AI lijkt keurig te functioneren, totdat iemand — per ongeluk of expres — de juiste woorden gebruikt. En dan gaat het mis. Welkom in de wereld van data poisoning.

“AI hallucineert niet. Het bluft.” Het klinkt bijna als een one-liner uit een pokerfilm, maar het is de conclusie van een recente studie van OpenAI en het Georgia Institute of Technology (4 september 2025, bron: https://lnkd.in/ecDBPQRb).

De geschiedenis herhaalt zich. Misschien niet letterlijk, maar hij rijmt wel. Nieuwe technologie brengt verwondering, hoop en vrees met zich mee. Van Plato die zich zorgen maakte over de invloed van schrift, tot mensen die dodelijke ziektes hoopten te genezen met dubieuze medicijnen – steeds weer zoeken mensen houvast in het onbekende. Vandaag belooft kunstmatige intelligentie onze wereld te veranderen. Maar supersnelle technologische ontwikkelingen roepen ook vragen op die verrassend vertrouwd klinken. In deze serie kijken we in historische spiegels, en we bekijken patronen van menselijk gedrag die telkens terugkeren. Wat leren ze ons over de uitdagingen van nu? En belangrijker nog: hoe zorgen we dat we niet in dezelfde fouten vervallen?

Een generatieve AI-tool die veel wordt gebruikt in ziekenhuizen voor medische transcripties, hallucineert in 1 procent van de gevallen. Nabla, de maker van de tool, zegt te werken aan een oplossing.

Kunstmatige intelligentie (AI) kan het werk in de zorg verlichten, maar de tijdswinst waarop het kabinet rekent zal in de praktijk tegenvallen. Dat blijkt uit een reportage in de Volkskrant.