Mediawetenschapper: ‘Algoritmen zijn nooit neutraal’

Maranke Wieringa doet haar uitspraak in een aflevering van de podcast van AIToday Live.  In deze podcast bespreekt Wieringa de rol van algoritmen in onze samenleving en de belangrijkste uitdagingen die ermee gepaard gaan. Hoe werken algoritmen? Wat is hun impact op de maatschappij? En wat zijn de ethische overwegingen bij het gebruik van algoritmen?

Algoritme
Een algoritme is een instructie voor een computer om een probleem op te lossen, zegt Wieringa. Deze instructies worden gevormd door de sociale en culturele waarden van de mensen die ze creëren. Dit betekent dat algoritmen geen neutrale technologieën zijn, maar doordrenkt zijn met vooroordelen en aannames. “Algoritmen zijn nooit neutraal,” zegt Wieringa.

Gezichtsherkenning
Een van de belangrijkste zorgen is de vooringenomenheid in gezichtsherkenningssystemen. Wieringa verwijst naar het onderzoek van Joy Buolamwini, waaruit blijkt dat zwarte vrouwen het minst goed worden herkend door deze systemen. “Zwarte vrouwen worden het minst goed herkend,” zegt Wieringa. Dit probleem ontstaat doordat de trainingsdata van deze systemen vaak niet divers genoeg is, waardoor bepaalde groepen mensen systematisch worden benadeeld.

Verantwoording
Volgens Wieringa is er een duidelijke behoefte aan verantwoording bij het gebruik van algoritmen, vooral door overheidsinstellingen. Gemeentes moeten transparant zijn over de algoritmen die ze gebruiken en moeten rekenschap afleggen over de beslissingen die door deze systemen worden genomen. Ze benadrukt dat het cruciaal is om te overwegen welke waarden en normen in deze systemen zijn ingebouwd en hoe deze de uitkomsten beïnvloeden.

Complexiteit
Een ander punt dat Wieringa aanstipt, is de complexiteit van algoritmische beslissingen. Algoritmen maken gebruik van enorme hoeveelheden data om patronen te herkennen en beslissingen te nemen. Deze beslissingen zijn niet altijd transparant of begrijpelijk voor de mensen die erdoor worden beïnvloed. Dit belemmert het vertrouwen en acceptatie van de inzet van algoritmes. Volgens Wieringa moet educatie en bewustwording dit probleem oplossen.

Ethisch besef
Wieringa stelt dat algoritmen altijd keuzes en waarden weerspiegelen die door de ontwikkelaars worden ingebouwd. “Er zitten altijd keuzes en waarden en normen in verwerkt,” zegt de onderzoeker. Dit betekent dat de ontwikkelaars van algoritmen een grote verantwoordelijkheid hebben om ervoor te zorgen dat hun systemen eerlijk en rechtvaardig zijn. Wieringa roept op tot meer ethisch besef en verantwoordelijkheid binnen de technologie-industrie.

Beluister de podcast AIToday Live met Maranke Wieringa

Bron:
AIToday Live