Over AI, ethiek en het moment waarop denken plaatsmaakt voor beslissen

Toch wringt er iets.

Niet omdat er te weinig perspectieven worden geboden, maar juist omdat het er zoveel zijn. Terwijl wij in zalen nadenken over ethische kaders en theoretische benaderingen, worden buiten die zaal al lang beslissingen genomen. Niet door mensen, maar door systemen. Op schaal, in stilte, en zonder dat daar nog een gesprek aan voorafgaat.

En precies daar begint het interessante deel van dit verhaal.

Van gesprek naar systeemeigenschap

Ethiek was lange tijd iets wat zich tussen mensen afspeelde. In overleg, in twijfel, in het zorgvuldig wegen van argumenten. Er zat tijd tussen vraag en antwoord. Frictie. Reflectie.

AI haalt die frictie eruit.

Niet omdat een systeem immoreel is, maar omdat het geen pauze kent. Het beslist  continu, consistent en zonder aarzeling. Er is altijd een antwoord; goed of fout. Daarmee verandert er iets fundamenteels. Ethiek verschuift van een gesprek naar een eigenschap van het systeem zelf. Het gaat niet langer om wat wij vinden, maar om wat wij vooraf hebben ingebouwd.

Denken in perspectieven, handelen in keuzes

De kracht van de KNVI-workshop zit in het laten zien dat er meerdere manieren zijn om naar technologie te kijken. Vanuit gevolgen, vanuit principes, vanuit menselijke waarden. Dat helpt ons scherper te denken.

Maar de praktijk is minder genereus.

Daar is zelden ruimte voor zes perspectieven. Daar moet gekozen worden. Bijvoorbeeld wanneer een algoritme bepaalt wie krediet krijgt, wanneer AI selecteert welke transacties extra controle verdienen, of wanneer een model voorspelt wie een verhoogd frauderisico heeft.

Dat zijn geen abstracte vraagstukken, maar concrete beslissingen met directe impact op mensen. En precies op dat moment wordt iets ongemakkelijks zichtbaar: ethiek geeft zelden een eenduidig antwoord, maar maakt vooral duidelijk hoe complex de afweging werkelijk is.

De illusie van objectiviteit

Wat AI zo verleidelijk maakt, is de schijn van neutraliteit. Data, modellen en output geven het gevoel van rationaliteit en controle. Het oogt meetbaar en daarmee betrouwbaar.

Maar onder de oppervlakte liggen keuzes verscholen.

Welke data wel en niet wordt meegenomen. Welke uitzonderingen worden toegestaan. Welke fouten acceptabel worden geacht. AI is daarmee geen neutraal instrument, maar eerder gestolde besluitvorming — en dus ook gestolde ethiek.

Verantwoordelijkheid verschuift naar het ontwerp

Waar verantwoordelijkheid vroeger vaak achteraf werd belegd, verschuift die bij AI naar voren in de tijd. Niet het moment van gebruik, maar het moment van ontwerp wordt doorslaggevend.

Daar wordt bepaald wat belangrijk is, wat genegeerd mag worden en welke risico’s acceptabel zijn. Op het moment dat een systeem draait, zijn die keuzes al gemaakt.

En dat moment van ontwerp blijft vaak buiten beeld.

De frictie die zichtbaar wordt

Wat hier schuurt, is precies wat het interessant maakt. Niet omdat AI iets volledig nieuws introduceert, maar omdat het blootlegt wat er altijd al was: beslissingen zijn nooit volledig rationeel geweest.

Het verschil is dat we die complexiteit vroeger konden verzachten met menselijke nuance, context en gesprek. AI haalt die laag weg en maakt de onderliggende keuzes zichtbaar en daarmee ook confronterend en als model fout is, vaak pijnlijk (weet u het; de biased toeslagenaffaire).

De echte vraag

De zes perspectieven uit de workshop helpen ons om scherper te denken. Maar uiteindelijk draait het om iets anders.

Niet zozeer om de vraag wat de juiste ethiek is, maar om de vraag welke wereld we bouwen met de systemen die we ontwerpen; ja, bewust of onbewust.

En misschien nog fundamenteler: durven we verantwoordelijkheid te nemen voor beslissingen die we zelf niet meer actief nemen, maar die we wel hebben geprogrammeerd?

Dat is geen vraag voor een workshop. Dat is een vraag voor bestuurders, ontwerpers en iedereen die betrokken is bij het bouwen van systemen.

En misschien wel de belangrijkste vraag van dit moment.

Succes met de workshop, goed initiatief!