Veel techbedrijven voldoen nog niet aan de hoge betrouwbaarheidseisen die Europese wet- en regelgeving aan hen stelt. Ze moeten hiervoor hun bedrijfsstructuren aanpassen. Dat zegt hoogleraar Esther Keymolen van de Tilburg Universiteit.
“Om werkelijk betrouwbaar te zijn is het niet genoeg voor techbedrijven om louter technisch onderlegde en moreel kundige werknemers aan te trekken. De bedrijven zouden in hun organisatie en hun businessmodel betrouwbaar gedrag en keuzes moeten stimuleren. Dit leidt tot behoorlijk hoge betrouwbaarheidseisen waaraan veel techbedrijven nu nog niet kunnen voldoen,” zegt Keymolen. Ze meldt dit in haar inaugurele rede, een speech naar aanleiding van haar benoeming tot hoogleraar regulering digitale technologie aan de Tilburg Universiteit.
Digitale technologie
Digitale technologie doordrenkt ons leven steeds meer, zegt Keymolen. “Sociale media, navigatiesystemen, ChatGPT en vele andere toepassingen zijn gemeengoed geworden. Ons leven wordt er voor een deel zelfs door bepaald. Met nieuwe wet- en regelgeving worden onze data in deze systemen zo goed mogelijk beschermd en de risico’s die kleven aan deze nieuwe technologieën zo veel mogelijk beperkt: denk aan de AVG, de AI-Verordening en de Ethische Richtsnoeren voor Betrouwbare AI. Hiermee hopen we de technologie in toom te houden.”
De rationale mens
Bij regulering van digitale technologie, zoals generatieve artificiële intelligentie (AI) en algoritmen, gaat het volgens Keymolen meestal over de technologie en niet over hoe de mens er in de praktijk mee omgaat. “De regelgeving gaat ervan uit dat de mens zelf de regie voert over zijn of haar data, maar die rationale mens is een fictie,” zegt Keymolen. “Als burger accepteren we bijvoorbeeld cookies zonder precies te weten waar we ja op zeggen. De kleine lettertjes lezen we niet. Die houding komt veel vaker voor.”
De onvoorspelbare mens
“We moeten ervan uitgaan dat de mens nooit volledig voorspelbaar is. De regulering moet hiermee rekening houden om effectief te kunnen zijn,” zegt Keymolen. De kersverse hoogleraar pleit ervoor om, net zoals de filosoof Helmuth Plessner, de mens niet te zien als iemand die tekort schiet als het gaat om digitale technologie, maar als een creatief, dynamisch persoon die in verbinding staat met de omgeving. “Volgens dit positieve mensbeeld is de mens voortdurend bezig het leven vorm te geven, vaak met technologie. De mens is daar nooit klaar mee. Het is deze veranderlijkheid die de mens kenmerkt en die regulering dient te beschermen.”
Investeren in governance
Menselijk toezicht op AI is niet genoeg, zegt Keymolen. “We moeten investeren in de governance. Dat betekent institutioneel toezicht, standaardisatie van normen en heldere procedures. Ook moeten we toegeven dat we er naast kunnen zitten met de regulering. We moeten oplossingen bedenken voor als het misgaat: alternatieven regelen, voorzien in checks and balances, en exitstrategieën bedenken. Een pluralistische aanpak is nodig (waarbij rekening wordt gehouden met diverse culturele en sociale groepen in een samenleving, red). Pas als we de onvoorspelbaarheid van de mens koesteren, zal de technologie ons dienen,” aldus Keymolen.
Inaugurele rede
Prof. dr. Esther Keymolen sprak op vrijdag 19 april 2024 haar inaugurele rede uit.
De rede heeft als titel ‘Technological Times: Looking out for the Human’.