Europese AI-wet treedt in werking

De Europese AI-verordening is op 1 augustus 2024 in werking getreden. Komende tijd gaan de verschillende eisen gelden die deze wet stelt aan ontwikkelaars en gebruikers van AI.

De AI-verordening is de eerste uitgebreide wet over kunstmatige intelligentie (AI) ter wereld. In de verordening staan de regels voor het verantwoord ontwikkelen en gebruik van AI door bedrijven, overheden en andere organisaties. De wet geldt voor de gehele Europese Unie, dus ook in Nederland. De eerste eisen gelden vanaf februari 2025. Dan worden  sommige vormen van AI verboden en moeten organisaties die AI gebruiken, daar genoeg kennis over in huis hebben.

Waarom worden sommige AI-praktijken verboden?

Er zijn vele nuttige toepassingen van AI, maar deze technologie kan ook misbruikt worden voor manipulatie, uitbuiting en sociale controle. De Europese AI-verordening wil dit soort praktijken verbieden om burgers te beschermen.

Welke AI-praktijken zijn vanaf volgend jaar verboden?

  • Manipulatieve of misleidende AI-systemen. Hoewel AI-systemen kunnen helpen bij het nemen van gerichte en weloverwogen beslissingen, is er ook een risico. AI-technieken kunnen mensen beïnvloeden om keuzes te maken die ze normaal niet zouden maken. Denk bijvoorbeeld aan het gebruik van audio-, beeld- en videomateriaal dat zij niet bewust kunnen waarnemen. Daarom zijn AI-systemen die via onderbewuste technieken en AI-systemen die gericht manipuleren of misleiden, verboden. AI-systemen die kwetsbaarheden – zoals leeftijd, handicap of een sociaaleconomische situatie – misbruiken om mensen te beïnvloeden zijn ook verboden.
  • AI-systemen voor ‘social scoring’. Dit houdt in dat AI-systemen mensen beoordelen op basis van hun sociale gedrag of persoonlijke kenmerken. Dit kan voor problemen zorgen, zoals discriminatie en uitsluiting van bepaalde groepen.
  • AI-gebaseerde voorspelde risicobeoordelingen voor criminaliteit. AI kan worden gebruikt om te ondersteunen bij het voorspellen van mogelijke strafbare feiten. Hierbij is het wel van belang dat het gebaseerd is op feiten die daadwerkelijk verband houden met criminele activiteiten. AI-systemen die uitsluitend op basis van profilering of beoordeling van persoonlijkheidseigenschappen en -kenmerken strafbare feiten voorspellen, zijn verboden.
  • Biometrische categorisering. Systemen die individuen categoriseren op basis van biometrische gegevens (zoals gezichtsafbeeldingen en vingerafdrukken) om ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele gerichtheid af te leiden zijn verboden. Dit verbod beschermt de privacy en grondrechten van personen. Uitzonderingen gelden alleen voor het rechtmatig labelen of filteren van rechtmatig verkregen biometrische datasets, op het gebied van rechtshandhaving.
  • Het gebruik van AI-systemen voor biometrische identificatie op afstand in realtime in openbare ruimten. Dit wordt verboden, behalve als het strikt noodzakelijk is voor specifieke en afgebakende situaties. Voorbeelden hiervan zijn het zoeken naar slachtoffers van ontvoering of vermiste personen, het voorkomen van imminente dreigingen voor het leven van mensen en het opsporen van verdachten van bepaalde zeer ernstige misdrijven. De inzet hiervan dient bij nationale wetgeving voorzien te zijn van een wettelijke grondslag waarin de voorwaarden gedetailleerd zijn vastgelegd.
  • Andere verboden praktijken. Andere AI-praktijken die verboden zijn vanaf februari 2025 zijn emotieherkenning op de werkplek en in het onderwijs. Ook het ongericht scrapen van gezichtsafbeeldingen van internet of camerabeelden (CCTV) om databanken voor gezichtsherkenning aan te leggen of aan te vullen zijn verboden.

Wanneer gelden de regels van de AI-verordening?

Vanaf de inwerkingtreding van deze nieuwe wet, 1 augustus 2024, gaat de AI-verordening in fasen van kracht, waarbij de meeste verplichtingen binnen een half en 3 jaar van kracht gaan. Ook geldt dat de verplichtingen over zes jaar met terugwerkende kracht zullen gelden voor overheidsorganisaties. Hierdoor vinden de veranderingen niet allemaal tegelijk plaats. Dit geeft organisaties de tijd om zich op de verplichtingen voor te bereiden.

Tijdlijn AI-verordening

Medio juli 2024 – Publicatie AI-verordening in Europees publicatieblad
1 augustus 2024 – Inwerkingtreding AI-verordening
1 februari 2025 – Verbodsbepalingen van kracht
1 augustus 2025 – Eisen AI-modellen voor algemene doeleinden van kracht
1 augustus 2026 – Meeste artikelen inclusief verplichtingen voor hoog risico AI van kracht
1 augustus 2027 – Verplichtingen voor hoog risico AI-systemen van in producten van kracht
1 augustus 2030 – Verplichtingen voor AI-systemen gebruikt door overheidsorganisaties die al voor inwerkingtreding in gebruik waren worden van kracht

Wat betekent dit voor mijn organisatie?

Het is belangrijk dat organisaties de verboden AI-systemen die zij gebruiken identificeren, zodat zij hiermee geleidelijk kunnen stoppen. Dit moet vóór februari 2025 gebeuren. Wanneer dit niet op tijd gebeurt, kunnen toezichthouders forse boetes opleggen. De maximale boete ligt op maximaal 35 miljoen euro of zeven procent van de jaaromzet van een bedrijf, meldt Tweakers. Ontwikkelaars en gebruikers van AI doen er goed aan nú te starten met voorbereidingen op deze nieuwe wet, meldt de Autoriteit Persoonsgegevens (AP).

Wat vinden experts van de AI-verordening?

Bart van der Sloot, universitair docent aan de Universiteit van Tilburg, adviseert om de wetgeving voor AI verder uit te werken. ‘De overheid is nu te afwachtend,’ zegt Van der Sloot in een interview met The Data Connection.

Lees het interview met Bart van der Sloot

Bronnen:

Wat betekent de AI-verordening voor jouw organisatie? – Digitale Overheid

Welke AI-praktijken zijn volgend jaar verboden? – Digitale Overheid

AI-verordening gaat in: werk aan de winkel voor ontwikkelaars en gebruikers | Autoriteit Persoonsgegevens

Abonneer
Laat het weten als er
guest
0 Commentaren
Inline feedbacks
Bekijk alle reacties