De stille dood van de misdaadvoorspeller

Niet omdat predictive policing op zichzelf zo spannend is, maar omdat deze casus pijnlijk blootlegt waar het in data-projecten structureel misgaat. En dat raakt veel verder dan de politie. Het raakt elke organisatie die denkt dat een algoritme automatisch leidt tot betere beslissingen.

Van belofte naar bijzin

CAS werd ontwikkeld als voorspellend model dat op basis van historische data zou aangeven waar de kans op bepaalde delicten groter was. Het idee was helder: data-gedreven inzetten van capaciteit.

Maar ergens onderweg is een cruciale vraag nooit scherp beantwoord: wanneer is het systeem succesvol?

Welke KPI’s waren leidend?

Wat was de nulmeting?

Wat was de tegenhypothese?

Wanneer zou je zeggen: dit werkt aantoonbaar beter dan menselijke inschatting?

Juist dat bleef diffuus. En zonder meetbare succescriteria verandert een voorspellend model van hulpmiddel in overtuiging. Het voelt rationeel, maar het is niet gevalideerd.

Voor data-professionals is dat een herkenbaar patroon. Het model draait. Het dashboard is gebouwd. Maar de causale meerwaarde is nooit hard aangetoond.

Data versterkt wat er al was

Een tweede ongemakkelijke les zit in de historische data zelf. Predictive policing werkt per definitie met registraties uit het verleden. Maar registraties zijn geen neutrale waarnemingen; ze zijn het resultaat van eerdere keuzes.

Als bepaalde wijken in het verleden intensiever gecontroleerd werden, bevatten ze meer geregistreerde incidenten. Als je dat vervolgens gebruikt als trainingsdata, krijgt het model een ogenschijnlijk objectieve reden om juist daar opnieuw meer risico te signaleren.

Dat is geen kwaadaardig algoritme. Dat is statistiek zonder correctie voor context.

Dit mechanisme – feedback loops op historische vertekening – zien we niet alleen bij politie. Denk aan kredietverlening, fraudedetectie, compliance-monitoring. Data reproduceert het systeem waarin ze is ontstaan, tenzij je expliciet corrigeert.

En dat vraagt om volwassen modelgovernance, niet alleen om code.

Het echte probleem is zelden technisch

Wat CAS vooral laat zien, is dat falen zelden puur technisch is. Het model werkte waarschijnlijk zoals ontworpen. Maar ontwerp is iets anders dan waarde.

Data-projecten stranden vaak op drie niveaus.

Ten eerste ontbreekt een heldere definitie van “beter”. Sneller? Goedkoper? Minder incidenten? Meer vertrouwen? Zonder expliciete definitie is er geen toetsingskader.

Ten tweede ontbreekt structurele evaluatie. Wordt het model periodiek vergeleken met een controlegroep? Wordt menselijke besluitvorming systematisch afgezet tegen modeluitkomsten? Of wordt het simpelweg gebruikt omdat het er nu eenmaal is?

Ten derde ontbreekt eigenaarschap. Wie voelt zich verantwoordelijk voor de uitkomst? IT? Beleidsmakers? Operationeel management?

Zonder die drie elementen is een algoritme een technologisch artefact zonder bestuurlijke verankering.

De grens van voorspelbaarheid

Misschien is er nog een fundamentelere vraag. Niet alles is voorspelbaar met historische data. Criminaliteit is geen mechanisch proces maar een sociaal fenomeen, beïnvloed door context, gedrag, beleid, toeval en dynamiek.

In veel domeinen overschatten we de voorspellende kracht van het verleden. We projecteren stabiliteit waar volatiliteit zit. We veronderstellen herhaalbaarheid waar gedrag adaptief is.

Dat betekent niet dat data waardeloos is. Het betekent dat voorspellende modellen een begrensde toepasbaarheid hebben. Ze zijn hulpmiddelen voor probabilistische inschatting, geen beslissingsmachines.

Wie dat verschil niet scherp houdt, loopt vroeg of laat tegen teleurstelling aan.

Wat dit betekent voor data-professionals

Het einde van CAS is geen argument tegen data. Het is een argument vóór volwassen data-toepassing.

Elke organisatie die met voorspellende modellen werkt, zou zichzelf drie vragen moeten stellen.

Is de doelstelling expliciet en meetbaar?

Is de modelprestatie aantoonbaar beter dan het alternatief?

Is er onafhankelijke toetsing op bias, feedback loops en maatschappelijke effecten?

Dat geldt net zo goed voor commerciële algoritmes als voor publieke toepassingen. Het maakt niet uit of het gaat om criminaliteit, kredietrisico, fraude, personeelsselectie of marketingoptimalisatie. De logica is identiek.

Data zonder governance is geen innovatie. Het is automatisering van aannames.

De echte les

Het geruisloos stoppen van een systeem is vaak interessanter dan de introductie ervan. Lanceringen zijn optimistisch. Stopzettingen zijn eerlijk.

CAS laat zien dat technologie niet vanzelf legitimiteit creëert. Dat voorspellende modellen geen vervanging zijn voor kritisch denken. En dat succes niet zit in het hebben van een algoritme, maar in het kunnen aantonen van meerwaarde.

Misschien is dat de belangrijkste les voor de data-wereld van nu. Minder fascinatie voor het model. Meer aandacht voor bewijs.

Want uiteindelijk geldt ook hier: niet alles wat berekend kan worden, is betekenisvol. En niet alles wat voorspelbaar lijkt, is bestuurbaar.