Integratie AI in zorg verloopt met hobbels

Het gebruikt van kunstmatige intelligentie (AI) in de gezondheidszorg ligt onder een vergrootglas. In de media worden regelmatig doorbraken belicht, zoals betere en snellere diagnoses dankzij AI. Maar is het optimisme rondom AI terecht en welke uitdagingen brengt AI met zich mee?

Chiara Carboni werkt als onderzoeker aan de Erasmus School of Health Policy & Management. In haar proefschrift ‘Broken Glass in the Clinic: Tracing the Performativity of Artificial Intelligence in Clinical Practice’ beschrijft ze hoe AI de klinische praktijk verandert. Haar onderzoek laat zien waar de grootste uitdagingen én grootste kansen liggen.

Carboni richtte zich voor haar onderzoek op casestudies in de pathologie, de intensive care en de acute psychiatrie. Ze bekritiseert de aanname dat AI het werk in de zorg eenvoudiger of makkelijker maakt. “Met mijn onderzoek wil ik nagaan hoe we de kansen die AI biedt kunnen benutten zonder de sociale en ethische gevolgen uit het oog te verliezen”, aldus Carboni.

Pathologie
De pathologie stapt over van traditionele microscooppreparaten naar digitale beelden, die de overstap op AI-gebaseerde diagnostiek mogelijk moeten maken. Veel pathologen ervaren digitale beelden echter als minder betrouwbaar en moeilijker te gebruiken, wat onzekerheid in hun werk veroorzaakt.

Intensive care
Voor intensive care-afdelingen zijn AI-dashboards ontworpen om verpleegkundigen te helpen bij het prioriteren van cruciale taken door realtime data te analyseren. “Hoewel zulke AI-systemen de efficiëntie kunnen vergroten, bestaat het risico dat ze de autonomie van zorgprofessionals ondermijnen. Verpleegkundigen kunnen het gevoel krijgen dat hun kennis en ervaring worden vervangen door een geautomatiseerd systeem,” legt Carboni uit.

Psychiatrie
In de psychiatrie worden voorspellende algoritmen gebruikt om het risico op gewelddadig gedrag te beoordelen. Toch zijn zorgverleners vaak sceptisch over deze tools, die complexe en ethisch beladen fenomenen zoals geweld lijken te simplificeren.

Impact AI
Carboni stelt dat AI niet alleen nieuwe hulpmiddelen toevoegt, maar ook de organisatie van zorg verandert. Taken worden vaak georganiseerd zodat ze aan de eisen van AI-systemen voldoen. Dat kan in plaats van minder werk juist meer werk opleveren. De veranderingen kunnen de autonomie van zorgmedewerkers ondermijnen en ethische dilemma’s opwerpen.

Focus op verbeteren zorg, niet op efficiëntie
Volgens Carboni moet de focus bij de implementatie van AI niet zozeer liggen op efficiëntie, maar vooral op het verbeteren van de zorg. Om effectief te werken met AI, hebben zorgverleners tijd nodig om te twijfelen en kritisch na te denken over de resultaten. Ze pleit ervoor dat AI zorgverleners moet ondersteunen en niet hun expertise mag vervangen.

Data voor AI-modellen
Daarnaast zou de dataverzameling die nodig is om AI-modellen te trainen (vaak uitgevoerd door verpleegkundigen en technici) meer moeten worden gewaardeerd en erkend. Carboni: “Mijn belangrijkste doel is om een genuanceerd beeld te schetsen van hoe de klinische praktijk verandert, niet alleen door AI zelf, maar ook door de verwachtingen die ontstaan rondom AI.”

Lees een interview met Chiara Carboni

Download haar proefschrift

Bron: “AI moet zorgverleners ondersteunen, niet hun expertise vervangen” | Erasmus University Rotterdam