We vertrouwen AI om te doden. Maar niet om te genezen.

Ik kwam hem tegen via een artikel op ICT&health. En zoals dat gaat met goede observaties, begon het pas echt te werken toen je hem een paar keer door je hoofd laat gaan. Want hoe langer je ernaar kijkt, hoe minder overdreven hij wordt.

Twee werelden, één technologie

In het artikel wordt een ongemakkelijke realiteit geschetst. AI speelt inmiddels een rol in militaire systemen waar snelheid en schaal allesbepalend zijn. Systemen die analyseren, prioriteren en in sommige gevallen bijdragen aan beslissingen die direct impact hebben op leven en dood.

Niet omdat we dat als samenleving uitgebreid hebben besproken. Maar omdat het technisch mogelijk werd, en operationeel noodzakelijk.

Aan de andere kant van het spectrum bevindt zich de zorg. Misschien wel de sector waar AI het meest tastbare verschil kan maken. Vroege detectie van ziektes, betere diagnoses, slimmere behandelkeuzes. Het zijn geen beloftes meer, maar toepassingen die er al zijn.

En toch voelt het daar anders.

Daar ontstaat aarzeling. Vragen. Twijfel. Discussie.

Niet omdat de technologie ontbreekt, maar omdat de consequenties dichterbij komen.

Waar het ineens persoonlijk wordt

Het verschil zit niet in de algoritmes. Het zit in ons.

In een militaire context verdwijnt de individuele mens vaak naar de achtergrond van het systeem. Beslissingen worden onderdeel van een keten, van een operatie, van een groter geheel. Het voelt abstract, hoe concreet de gevolgen ook zijn.

In de zorg gebeurt het tegenovergestelde. Daar is het nooit abstract. Daar gaat het altijd over iemand. Over een lichaam, een diagnose, een leven dat ineens heel dichtbij komt.

En precies op dat moment verandert onze houding.

We willen begrijpen wat er gebeurt.

We willen kunnen uitleggen waarom iets is besloten.

We willen dat er iemand is die verantwoordelijkheid draagt.

Niet omdat we technologie ineens minder vertrouwen, maar omdat de afstand verdwijnt.

Vertrouwen of gewenning?

Het artikel op ICT&health legt daarmee iets bloot wat we niet graag onder ogen zien. We noemen het vertrouwen, maar vaak is het iets anders.

In systemen die groot, complex en snel zijn, ontstaat een vorm van gewenning. Technologie wordt onderdeel van hoe dingen gaan. Niet omdat we elke stap begrijpen of expliciet goedkeuren, maar omdat het alternatief er simpelweg niet meer is.

In de zorg ligt dat anders. Daar is het alternatief er nog wel: de arts, het gesprek, het oordeel van een mens. En zolang dat er is, blijven we dat als referentiepunt gebruiken.

Dat maakt de lat voor AI automatisch hoger.

De echte spanning zit niet in AI

Wat dit verhaal interessant maakt, is dat het uiteindelijk niet over technologie gaat. Het gaat over hoe wij omgaan met controle.

We laten los waar systemen dominant zijn geworden.

We houden vast waar we het gevoel hebben dat het nog kan.

En dat leidt tot een ongemakkelijke situatie. Want juist op de plekken waar de impact het grootst is, hebben we vaak de minste invloed op hoe technologie wordt ingezet. En op de plekken waar we de meeste invloed hebben, stellen we de zwaarste eisen

Dat voelt misschien logisch, maar het is niet consistent.

Terug naar die ene zin

Als je die zin nog eens leest — we vertrouwen AI om te doden, maar niet om te genezen — dan gaat het eigenlijk niet over vertrouwen.

Het gaat over afstand.

Over controle.

Over waar we nog willen begrijpen wat er gebeurt, en waar we dat al hebben losgelaten.

En misschien is dat wel de reden waarom hij blijft hangen.

Omdat hij ons dwingt om niet naar AI te kijken, maar naar onszelf.

Naar de plekken waar we kritisch zijn.

En naar de plekken waar we dat, vaak ongemerkt, al niet meer zijn.