Hoogleraar Henry Prakken: ‘AI kan rechters niet vervangen’

Kunstmatige intelligentie (AI) kan rechters ondersteunen bij hun beslissingen, maar niet vervangen. Dat zegt hoogleraar AI & recht Henry Prakken. ‘De uiteindelijke beslissing blijft bij de rechter’.

Henry Prakken is onlangs benoemd tot hoogleraar AI & recht bij de bètafaculteit van de Universiteit Utrecht. In zijn onderzoek en onderwijs richt Prakken zich op manieren waarop AI-technologieën rechters, advocaten, officieren van justitie, maar ook misdaadonderzoekers en burgers kunnen ondersteunen. Het uiteindelijke doel: een efficiënt en transparant rechtssysteem.

Algoritmes
Ook in het recht neemt het gebruik van AI-technieken de laatste tijd toe: algoritmes die vormen van fraude proberen op te sporen en misdaad of uitspraken van rechters kunnen voorspellen. Een bekend probleem van veel van die algoritmes is dat ze black boxes zijn, aldus Prakken. “Een algoritme dat een bepaalde uitkomst voorspelt, maar geen inzicht geeft in de juridische gronden van die voorspelling, daar heeft een rechter niets aan. Ik wil weten hoe je algoritmes zodanig kunt ontwerpen dat ze zich wél houden aan de juridische eisen wat betreft uitlegbaarheid.”

Zoeken in data
Prakken richt zich in zijn onderzoek op technieken als machine learning, taaltechnologie en argumentatietechnologie. Deze technieken gebruikt hij bijvoorbeeld om in data waarmee het algoritme getraind wordt, te zoeken naar gevallen met een vergelijkbare uitkomst. Het algoritme kan vervolgens uitleggen dat de voorspelling is gebaseerd op het feit dat eerdere gevallen met vergelijkbare kenmerken dezelfde uitkomsten hadden. “We gebruiken daarvoor modellen uit de rechtsfilosofie die gaan over precedent-gebaseerd redeneren: hoe gaan juristen om met beslissingen in eerdere zaken?”

Vertrouwen in rechtspraak
Volgens Prakken is dergelijk onderzoek essentieel om het vertrouwen in de rechtspraak en misdaadonderzoek te behouden, maar ook om onrealistische ideeën over dergelijke ontwikkelingen te temperen. “Deze algoritmes zijn geen voorloper van een robotrechter. De uiteindelijke beslissing blijft bij de rechter, die een uitspraak doet op deugdelijke juridische gronden en gehoorde partijen. AI kan rechters ondersteunen bij hun beslissingen, maar kan ze niet vervangen.”

Pionier in recht en AI
Prakken is een bekend gezicht bij de Universiteit Utrecht. Hij is al 25 jaar docent en onderzoeker bij het departement Informatica. Hij begeleidt promovendi die onderzoek doen op het snijvlak van recht en AI, onder meer bij het Nationaal Politielab AI. Pınar Yolum, hoogleraar Trustworthy AI en voorzitter van de benoemingscommissie, is blij met de aanstelling van Prakken. “Hij heeft zowel de theoretische als de experimentele kennis van dit vakgebied verder gebracht. Hij is echt een pionier op dit vakgebied.”

Lees de oratie van Henry Prakken

Een rechter in Nederland gebruikte ChatGPT voor een uitspraak. Dat was in de zomer van 2024 landelijk nieuws.
Lees ‘Mogen AI-chatbots worden gebruikt op het werk?’

Bronnen:
Henry Prakken aangesteld als hoogleraar AI & Recht – Nieuws – Universiteit Utrecht (uu.nl)
Prof. dr. mr. H. (Henry) Prakken – Universiteit Utrecht (uu.nl)

Abonneer
Laat het weten als er
guest
0 Commentaren
Inline feedbacks
Bekijk alle reacties