Toezichthouder: ‘Wees alert op risico’s van AI’
De onstuimige opkomst van AI vraagt om waakzaamheid op de risico’s van de technologie. Dat meldt de Autoriteit Persoonsgegevens (AP) in een rapport.
Kunstmatige intelligentie (AI) staat nog in de kinderschoenen, maar ontwikkelt zich razendsnel. Er wordt volop geëxperimenteerd: van een ‘rat race’ in generatieve AI door bigtechbedrijven tot op AI-gebaseerde gedragsherkenningssystemen in supermarkten en sportscholen. De beheersing van de risico’s van AI-systemen gaat echter niet in hetzelfde tempo. Dat schrijft de Autoriteit Persoonsgegevens (AP) in de nieuwe Rapportage AI- & Algoritmerisico’s Nederland.
Cyberaanvallen en deepfakes
Volgens de toezichthouder moet de zorgvuldige inzet van AI voorop staan èn moeten we ons voorbereiden op meer incidenten met AI. “Waakzaamheid van burgers, bestuurders en volksvertegenwoordigers is daarom geboden,” aldus de AP. “Mensen zullen de risico’s van AI-systemen steeds vaker tegenkomen in hun dagelijks leven. Van misbruik van generatieve AI voor cyberaanvallen en deepfakes tot nieuwe vormen van privacyschendingen en de kans op discriminatie en willekeur.”
Kansen en risico’s
“Het blijven stormachtige tijden,” zegt Aleid Wolfsen, voorzitter van de AP. Hij wijst op kansen van AI, zoals bij medische behandelingen en inclusieve dienstverlening, maar ook op de risico’s. Volgens hem is het goed nieuws dat er serieus werk wordt gemaakt van AI-regelgeving, bovenop eisen die er nu al zijn op gebied van gegevensbescherming, consumentenbescherming en cybersecurity. Ook dringt het besef steeds meer door dat een verantwoorde inzet van AI arbeidsintensief is en veel vraagt van een organisatie.
Discriminatie bij fraude
“Zolang organisaties nog twijfelen over de mate waarin ze de risico’s van AI kennen, moeten ze terughoudend zijn met de inzet van AI,” zo waarschuwt Wolfsen. Een voorbeeld van een maatregel die helpt om meer grip te krijgen op de inzet van AI-systemen is de zogenoemde aselecte steekproef. Veel AI-systemen worden gebruikt om mensen te profileren en te selecteren, bijvoorbeeld voor onderzoek naar fraude. In dat soort processen helpen aselecte steekproeven om discriminatie te ontdekken en tegen te gaan.