Oud-parlementariër Marietje Schaake gaat voor de Europese Commissie een werkgroep leiden die beleid ontwikkelt om risico’s van AI te identificeren en te monitoren.
De werkgroep onder leiding van Schaake zal serieuze risico’s rapporteren en aanpakken, meldt Brusselse Nieuwe. De risico’s worden beschreven in de Europese AI-wet. Voorbeelden zijn problemen op gebied van transparantie, privacy en eigendomsrechten. Deze problemen kunnen ontstaan als AI-bedrijven niet voldoende waarborgen inbouwen in hun systemen om deze risico’s te beperken. De Europese Commissie ontwikkelt een gedragscode die deze risico’s moet aanpakken.
Wie is Marietje Schaake?
Marietje Schaake was tussen 2009 en 2019 europarlementariër voor D66. In die functie hield ze zich bezig met beleid op gebied van handel, buitenlandse zaken en technologie. Tegenwoordig is ze directeur internationaal beleid bij het Cyber Policy Center van Stanford University in Silicon Valley (VS). Daar doet ze onderzoek naar kunstmatige intelligentie (AI) waarbij de mens centraal staat. Ze schreef De Tech Coup, een boek over de snelgroeiende macht van techbedrijven.
‘Techbedrijven hebben teveel macht’
De grote techbedrijven hebben teveel macht gekregen, constateert Schaake in haar boek. De bedrijven hebben steeds meer taken op zich genomen die normaal gesproken door overheden worden vervuld. Een voorbeeld is Pegasus, een spywareprogramma van het Israëlische cyberbedrijf NSO Group waarmee overheden inlichtingen verzamelen. Al vijftien jaar zet Schaake zich in om de macht van de bedrijven achter dit soort toepassingen aan banden te leggen.
Digitale wereld als politiek thema
In het Europarlement was in 2009 weinig kennis over de digitale wereld, zegt Schaake in een interview met De Ingenieur. “Politici waren na de verkiezingscampagne van Barack Obama in de Verenigde Staten wel sociale media gaan gebruiken, maar voor een heleboel collega’s was het nog een ver-van-mijn-bedshow. Pas rond de Arabische Lente en WikiLeaks begonnen ze door te krijgen dat de digitale wereld ook een heel politiek thema is.”
EU voorop met regulering
Inmiddels lijkt de Europese Unie voorop te lopen met de regulering van de techwereld. Dat komt volgens Schaake door de ervaringen in de vorige eeuw. “Wij hebben in Europa geleefd onder het nazisme en het communisme. Daardoor vinden wij eerder dat we controle op de macht moeten hebben; dat we grenzen moeten stellen aan hoeveel gegevens we over burgers verzamelen en waar we die voor gebruiken. Dat is heel anders in de Verenigde Staten.”
Rol AI bij verkiezingen
Schaake sprak medewerkers van OpenAI over de risico’s van ChatGPT op vrije verkiezingen, vertelt ze aan De Tijd. “Ze hadden geen antwoord toen ik vroeg wat ze hadden geleerd uit de verkiezingen in Polen in 2023.” De medewerkers zagen wel een risico in het klonen van stemmen, maar toch heeft OpenAI dit op de markt gebracht, constateert Schaake. “Ik heb het idee dat we in een levensgroot AI-experiment rondwandelen, zonder dat het experiment is goedgekeurd.”
Kentering gaande
Toch ziet ze een kentering, bekent ze aan FollowTheMoney. De arrestatie van Telegram-oprichter Pavel Durov en de blokkade in Brazilië van X door de hoogste rechter laat zien dat techmiljardairs niet straffeloos kunnen doen wat ze willen. Schaake zegt redelijk positief te zijn over de Europese AI Act. De wet stelt regels voor de verantwoordelijkheid en aansprakelijkheid bij toepassingen van AI.
Gezichtsherkenning
De Europese AI-wet verbiedt in principe gezichtsherkenning, al blijven er gevallen waarbij opsporingsdiensten gezichtsherkenning mogen inzetten. Daarin schuilt ook het gevaar, erkent Schaake. De uitzondering zou ruimer kunnen uitvallen dan we nu denken. “We weten nu dat er ook in de EU landen zijn zeggen dat het nodig is voor de nationale veiligheid, zelfs als dat een grote inperking van burgerlijke vrijheden betekent.”
Beluister de podcast van FollowtheMoney met Marietje Schaake
Bekijk aflevering EenVandaag over de techlobby
Bronnen:
Oud-Europarlementariër Marietje Schaake gaat AI-werkgroep leiden in de EU – Brusselse Nieuwe
Marietje Schaake: Ook niet-ingenieurs mogen zich bemoeien met technologie | De Ingenieur