AI-chatbot van politie ook toepasbaar in andere sectoren

Honderdduizenden burgers hebben sinds 2019 online aangifte gedaan bij de politie van oplichting via een regel-gebaseerde AI-chatbot. Een dergelijk systeem wordt ook toegepast in de medische sector en is mogelijk toepasbaar in de financiële sector.

Dat zegt Daphne Odekerken, onderzoeker bij de Nationale Politie. Zij ontwierp de algoritmes voor de AI-chatbot en promoveerde hierop onlangs aan de Universiteit van Utrecht. Het systeem is al meer dan vijf jaar in gebruik bij de politie voor de aangifte van fraude. Erik Akerboom, momenteel directeur-generaal bij de AIVD, was destijds als korpschef bij de Nationale Politie verbaasd over de vroege invoering van deze toepassing.

Honderden aangiftes per dag
Dagelijks ontvangt de politie honderden online aangiftes. Het probleem is dat burgers vaak niet weten welke informatie nodig is op het formulier om een aangifte compleet te maken, vertelt Odekerken. “Soms moest de politie steeds heen en weer mailen om ontbrekende gegevens aan te vullen. Dat levert enorm veel vertraging op.”

Burgers die worden opgelicht nemen nog steeds aan dat een aangifte veel tijd kost. Psychologe Emma Clarke werd na haar verhuizing van Nieuw-Zeeland naar Nederland twee keer opgelicht met relatief goedkope aankopen. Ze meldde de voorvallen het niet aan de politie, ‘omdat de tijd die het zou kosten niet opwoog tegen de potentiële voordelen’, zo vertelt ze op LinkedIn.

Slim aangifteformulier
Om het aangifteproces efficiënter en betrouwbaarder te maken werkte Odekerken aan een ‘slim aangifteformulier’. De ‘keuzehulptool’ kan automatisch ontbrekende informatie signaleren in de tekst die een burger invoert. Als de burger schrijft ‘Ik heb niks ontvangen’ vraagt de chatbot ‘Heeft u betaald?’. “Zo wordt de aangifte compleet alvorens het in te dienen,” zegt Odekerken.

De keuzehulptool is gebaseerd op ‘regel-gebaseerde AI’. Dit betekent dat het werkt met vooraf vastgestelde regels, zoals in wetsartikelen. “Een regel-gebaseerd systeem beslist alleen als het voldoende informatie heeft verzameld om tot een conclusie te komen.” Het mooie daarvan is dat het de uitkomsten uitlegbaar maakt, zo zegt Odekerken. Ze noemt dit ‘cruciaal bij aangiftes’.

Betrouwbaar systeem
Odekerken: “Je kunt bewijzen dat het systeem correct werkt. Dat maakt het betrouwbaar voor zowel burgers als politieagenten. Daarom ben ik ook geen fan van zelflerende AI (dat niet transparant is over de werkwijze en uitkomsten, red). Het is belangrijk dat je precies weet hoe de systemen werken en waarom ze tot een bepaalde conclusie komen.”

TheDataConnection.nl stelde Odekerken enkele vragen na haar promotie:

Wat is je voornaamste conclusie van je onderzoek?

“In mijn onderzoek heb ik aangetoond dat het mogelijk is om snelle algoritmes te ontwikkelen om, op een betrouwbare en uitlegbare manier, besluitvorming te ondersteunen met onvolledige informatie. De techniek die ik heb ontwikkeld is gebaseerd op computationele argumentatie. Dit onderscheidt zich van chatbots gebaseerd op Large Language Models (LLMs), die niet betrouwbaar zijn omdat ze kunnen hallucineren, en beslisbomen, die minder goed uitlegbaar zijn. De algoritmes zijn bij de politie toegepast voor de intake van online handelsfraude, maar de technieken zijn niet specifiek voor deze toepassing. Ze zouden ook toegepast kunnen worden in andere chatbots bij de politie, denk bijvoorbeeld aan aangiftes van fietsendiefstal of phishing.”

In welke (vak)gebieden is het regel-gebaseerde AI-systeem nog meer toepasbaar?

“In principe is het regel-gebaseerde AI-systeem toepasbaar in allerlei domeinen waar gebruikers ondersteund willen worden in het nemen van een beslissing, in het bijzonder (1) als die beslissing uitlegbaar moet zijn, bijvoorbeeld omdat het heel belangrijk is om geen fouten te maken, en (2) als in beginsel niet alle informatie beschikbaar is om een beslissing te kunnen nemen. Regel-gebaseerde AI is bijvoorbeeld ook toegepast in het medische domein.”

Is het systeem ook te gebruiken in de financiële sector?

“Ik weet niet precies welke uitdagingen er in de financiële sector zijn waarin AI een rol zou kunnen spelen, maar ik kan me voorstellen dat het kan helpen om de dienstverlening te verbeteren op een vergelijkbare manier als hoe het systeem voor intake van online handelsfraude helpt bij de dienstverlening vanuit de politie.”

Wat is er bijzonder/uniek aan het AI-systeem?

“Het bijzondere aan het AI-systeem is dat het kan redeneren met onvolledige informatie. Dus als je nog niet genoeg gegevens hebt om een beslissing te kunnen nemen, neemt het AI-systeem niet (zoals gebruikelijk is voor andere systemen) een voorbarige beslissing, maar geeft het aan welke informatie nog nodig is om wél een beslissing te kunnen nemen.”

Wat is er ‘AI’ aan het systeem? Dekt de term ‘Machine Learning’ niet beter de lading?

“Door de juiste vragen te stellen op het juiste moment, vertoont het AI-systeem intelligent gedrag. Daarom kun je het als een AI-systeem definiëren, ook al is het niet zelflerend. Het systeem is geen voorbeeld van machine learning, aangezien er geen zelflerende component in zit. Het systeem neemt alleen beslissingen op basis van regels die in samenwerking met domeinexperts zijn opgesteld op basis van de wet (artikel 326).”

Het regel-gebaseerde AI-systeem is sinds 2019 in gebruik. Zijn daarna nog aanpassingen doorgevoerd in het systeem?

“In maart 2019 is de wet omtrent online handelsfraude iets aangepast (Artikel 326e). In lijn met deze wijziging hebben we aanpassingen gemaakt in de regels die het AI-systeem gebruikt. Daardoor stelt het in specifieke situaties net iets andere vragen en zijn er meer situaties waarin het systeem concludeert dat er sprake is van fraude. Overigens wat het aanpassen van deze regels relatief gemakkelijk, juist omdat ze zo sterk gebaseerd zijn op de wettekst.”

Wat vond je het moeilijkste van je promotieonderzoek?

“Tijdens mijn PhD werkte ik in twee organisaties: de Nationale Politie en Universiteit Utrecht. Dat maakte het onderzoek voor mij extra interessant, maar ook uitdagend, want ik had elke week maar 20 uur de tijd om aan mijn onderzoek te werken en 20 uur de tijd om werkzaamheden voor de politie te verrichten. Het hielp daarbij om heel kritisch te zijn op welke taken ik wel en niet zou doen. Gelukkig was daar vanuit beide organisaties veel begrip voor.”

Download het proefschrift van Daphne Odekerken

Bekijk andere toepassingen van AI

Bron: AI-tool helpt burgers een volledige aangifte te doen – Nieuws – Universiteit Utrecht

Abonneer
Laat het weten als er
guest
0 Commentaren
Inline feedbacks
Bekijk alle reacties