Clearview AI krijgt miljoenenboete

Het Amerikaanse bedrijf Clearview AI krijgt een boete van 30,5 miljoen euro van de Nederlandse privacywaakhond voor het illegaal verzamelen van foto’s van Nederlanders voor gezichtsherkenning. Het is verboden om de diensten van Clearview te gebruiken.

Clearview verkoopt gezichtsherkenningsdiensten aan inlichtingen- en opsporingsdiensten. Klanten kunnen camerabeelden aanleveren om erachter te komen wat de identiteit is van personen die in beeld komen. Clearview heeft hiervoor een database opgebouwd met ruim 30 miljard foto’s van mensen.

Dat is illegaal gebeurd, meldt de Autoriteit Persoonsgegevens (AP). “Het bedrijf haalt die foto’s automatisch van het internet, en zet ze vervolgens om in een unieke biometrische code per gezicht. Dit gebeurt zonder dat deze mensen dat weten en zonder dat zij daarvoor toestemming hebben gegeven,”  meldt de toezichthouder.

Gezichtsherkenning
Gezichtsherkenning is ingrijpende technologie, die je niet zomaar mag loslaten op iedereen ter wereld”, zegt AP-voorzitter Aleid Wolfsen. “Staat een foto van jou op internet – en voor wie geldt dat niet? – dan kun je in de database van Clearview terechtkomen en worden gevolgd. Dit is geen doemscenario uit een griezelige film. En ook niet iets wat alleen in China zou kunnen.”

Clearview levert alleen diensten aan inlichtingen- en opsporingsdiensten buiten de Europese Unie. “Dat is al erg genoeg”, zegt Wolfsen. “Laat dit vooral niet verder gaan. We moeten een heel duidelijke grens trekken bij verkeerd gebruik van deze technologie.” Wolfsen waarschuwt geen gebruik te maken van Clearview. “Nederlandse organisaties die Clearview gebruiken, kunnen fikse boetes van de AP verwachten.”

Tip na inzageverzoek
De toezichthouder werd in 2023 getipt over de illegale gezichtsherkenningsdatabank door Bits of Freedom. Beleidsadviseur Lotte Houwing diende een inzageverzoek in bij Clearview AI en ontdekte dat ze was opgenomen in de illegale databank. Bits of Freedom deelde deze informatie met de Autoriteit Persoonsgegevens en vroegen Clearview te onderzoeken en te handhaven.

Het geven van de boete is een belangrijk signaal aan Clearview AI én aan organisaties die Clearview AI gebruiken, zegt Bits of Freedom. “Het verwerken van onze biometrische gegevens is niet toegestaan. We hopen dat de boete andere bedrijven, die biometrische gegevens gebruiken en daarmee de wet overtreden, aanspoort om daar onmiddellijk mee te stoppen.”

Riskante AI-technologie
Maarten Sukel, machine learning engineer, op LinkedIn: “Gezichtsherkenningstechnologie is naar mijn mening een van de meest risicovolle AI-technologieën, vooral wanneer het zonder toestemming wordt gebruikt, zoals bij Clearview AI. Het is goed dat bedrijven die de regels overtreden, worden beboet door de toezichthouder.” Sukel vindt het essentieel dat niet alleen bedrijven, maar ook overheden verantwoording afleggen voor het gebruik van dergelijke technieken.

Dwangsommen
Clearview is nog niet gestopt met de overtredingen, meldt de AP. Daarom heeft de toezichthouder opdracht gegeven die overtredingen te beëindigen. Doet Clearview dat niet, dan moet het bedrijf bovenop de boete dwangsommen betalen van in totaal maximaal 5,1 miljoen euro. Andere privacytoezichthouders in Europa hebben Clearview al eerder beboet, maar het bedrijf lijkt het gedrag niet aan te passen. De AP zoekt manieren om zeker te stellen dat Clearview de overtredingen stopt.

Bekijk het besluit van AP voor de boete aan Clearview AI

Bronnen:

AP legt Clearview boete op voor illegale dataverzameling voor gezichtsherkenning | Autoriteit Persoonsgegevens

AP geeft gehoor aan tip Bits of Freedom over illegale gezichtsherkenningsdatabank – Bits of Freedom

Clearview AI krijgt megaboete, maar wanneer wordt de overheid gecontroleerd? | LinkedIn

Abonneer
Laat het weten als er
guest
0 Commentaren
Inline feedbacks
Bekijk alle reacties