Het Facebook algoritme werkte precies zoals bedoeld. En juist dat wordt nu het probleem.
Algoritmen worden steeds beter in het voorspellen van wat onze aandacht trekt. Dat maakt digitale diensten relevanter en commercieel succesvoller, maar roept ook een steeds belangrijkere vraag op: wat gebeurt er wanneer een algoritme zó goed optimaliseert dat het succes zelf maatschappelijke risico’s veroorzaakt?
De discussie rond Meta laat zien waarom algoritmische verantwoordelijkheid steeds belangrijker wordt. Organisaties moeten niet alleen kijken naar engagement, kijktijd of conversie, maar ook naar de gevolgen van de doelen waarop hun algoritmen optimaliseren. Daarmee wordt een technisch vraagstuk steeds nadrukkelijker een onderwerp voor bestuur, governance en toezicht.
Een algoritme dat steeds beter begrijpt wat we willen zien, klinkt als een technologisch succes. Persoonlijk vindt ik het soms maar vreemd. Big Brother adds noem ik ze vaak.
Hoe nauwkeuriger het voorspelt welke video, foto of post onze aandacht trekt, hoe relevanter het platform wordt was het uitgangspunt. Meer gebruik levert vervolgens meer data op, waarmee het algoritme opnieuw kan worden verbeterd. Precies die succesvolle datacyclus staat nu steeds nadrukkelijker ter discussie.
Het bedrag trekt vanzelfsprekend de aandacht, maar vanuit dataprofessioneel perspectief is een andere vraag minstens zo interessant: wat gebeurt er wanneer een algoritme niet faalt, maar juist uitzonderlijk goed doet waarvoor het is ontworpen?
Van personalisatie naar optimalisatie
Socialmediaplatforms verzamelen enorme hoeveelheden gedragsdata. Ze registreren niet alleen welke content iemand bekijkt, maar ook hoelang dat gebeurt, waarop bezoekers klikken, wanneer iemand weggaat, welke notificatie iemand terugbrengt en welke volgende aanbeveling ervoor zorgt dat iemand blijft.
Op zichzelf is daar weinig verrassends aan, want vrijwel iedere digitale onderneming probeert met data haar dienstverlening te verbeteren. Het wordt interessanter wanneer we kijken naar de doelstelling waarop vervolgens wordt geoptimaliseerd.
Wanneer het succes van een platform mede afhangt van gebruiksduur en engagement, krijgt het algoritme immers een duidelijke opdracht: ontdekken welke combinatie van content, timing en interactie iemand langer vasthoudt. Zo ontstaat een zichzelf versterkende datacyclus: meer gebruik levert meer gedragsdata op, daarmee kan het algoritme betere voorspellingen doen en relevantere prikkels aanbieden, die het gebruik vervolgens verder stimuleren.
Technologisch is dat indrukwekkend en commercieel kan het bijzonder effectief zijn. Maatschappelijk wordt het ingewikkelder wanneer degene van wie het gedrag zo nauwkeurig wordt geanalyseerd en beïnvloed een kind is.
De data vertellen meer dan alleen wat we leuk vinden
Dezelfde gedragsdata krijgen daarmee een tweede betekenis. Een platform kan ermee ontdekken welke content gebruikers interessant vinden, maar ook welke mechanismen mensen moeilijk kunnen weerstaan, wanneer gebruikers terugkeren, welke interventies gebruikers nauwelijks benutten en welke productaanpassingen het gedrag daadwerkelijk veranderen.
Tijdens de recente procedure tegen Meta kwam bijvoorbeeld de functie Take a Break ter sprake. Instagram introduceerde deze functie om jongeren te stimuleren na een bepaalde gebruiksduur een pauze te nemen. Volgens cijfers die tijdens het proces werden besproken, activeerde aanvankelijk slechts ongeveer 1,8% van de tieners de functie. Uiteindelijk maakte Instagram dergelijke beschermingsmaatregelen standaard onderdeel van tieneraccounts.
Juist dat voorbeeld laat zien hoe de rol van data kan veranderen. De gegevens waarmee een onderneming haar product optimaliseert, kunnen achteraf namelijk ook inzicht geven in wat die onderneming wist over het gedrag dat het product veroorzaakte en over de effectiviteit van maatregelen om dat gedrag te beïnvloeden. Data zijn daarmee niet alleen een instrument om het algoritme te verbeteren, maar kunnen uiteindelijk ook een belangrijk onderdeel vormen van de beoordeling van de werking ervan.
Waarom Meta? En waarom niet TikTok?
Daarmee komen we misschien bij de interessantste vraag rond deze zaak, want eindeloos scrollen is bepaald geen exclusieve uitvinding van Facebook of Instagram. TikTok, Snapchat en YouTube werken eveneens met aanbevelingssystemen die voortdurend leren welke content een gebruiker waarschijnlijk blijft bekijken.
TikTok staat bovendien helemaal niet buiten de juridische discussie. Het bedrijf heeft recent vertrouwelijke schikkingen getroffen in zaken van tieners die socialmediabedrijven ervan beschuldigden verslavende platforms te hebben ontwikkeld. Die procedures maken deel uit van een veel bredere juridische ontwikkeling waarin naast TikTok ook Meta, YouTube en Snapchat worden aangesproken.
Meta probeert de discussie in zijn eigen schikking eveneens nadrukkelijk industriebreed te maken. Een deel van het maximale schikkingsbedrag is afhankelijk van de vraag of andere grote platforms vergelijkbare afspraken maken. Meta stelt daarbij dat maatregelen alleen werkelijk effectief kunnen zijn wanneer ook TikTok, YouTube en andere concurrenten vergelijkbare standaarden hanteren.
De discussie gaat daardoor uiteindelijk over veel meer dan Meta alleen. De relevantere vraag is welke verantwoordelijkheid een onderneming draagt wanneer haar algoritme aantoonbaar bijzonder goed wordt in het vasthouden van menselijke aandacht.
Wanneer wordt optimalisatie gedragssturing?
Die vraag wordt nog interessanter wanneer we haar buiten de wereld van sociale media plaatsen. Streamingdiensten optimaliseren kijktijd, muziekplatforms proberen luistertijd te vergroten, webwinkels optimaliseren conversie, nieuwsplatforms meten clicks en leestijd, gamingbedrijven analyseren speelgedrag en financiële apps proberen klanten vaker en intensiever hun digitale omgeving te laten gebruiken.
In vrijwel al deze omgevingen passen organisaties hetzelfde principe toe: meten, voorspellen, testen en opnieuw optimaliseren. Daar is op zichzelf niets mis mee, want data-analyse kan producten aantoonbaar relevanter, gebruiksvriendelijker en beter maken. Naarmate algoritmen echter beter worden in het voorspellen van menselijk gedrag, wordt de grens tussen het aanbieden van relevantie en het actief sturen van gedrag belangrijker.
Een aanbevelingssysteem dat begrijpt welke film ik waarschijnlijk leuk vind, levert mij als gebruiker duidelijke waarde. Wanneer hetzelfde systeem ook precies leert welke prikkel ervoor zorgt dat ik ondanks mijn voornemen om te stoppen toch nog een half uur doorga, ontstaat een andere situatie. Technisch hoeven die twee systemen niet eens fundamenteel van elkaar te verschillen; het onderscheid wordt vooral bepaald door de doelstelling waarop ze worden geoptimaliseerd.
Misschien moeten we daarom anders naar KPI’s kijken
Daarmee brengt de discussie ons uiteindelijk terug bij iets heel basaals: wat vragen we eigenlijk van een algoritme? Als engagement de belangrijkste KPI is, zal een goed algoritme proberen engagement te maximaliseren. Staat kijktijd centraal, dan leert het systeem welke interventies ervoor zorgen dat mensen langer blijven kijken. Is conversie de maatstaf, dan zoekt het naar de omstandigheden waaronder de kans op een aankoop het grootst wordt.
Een algoritme begrijpt echter niet uit zichzelf de maatschappelijke context achter zo’n KPI. Het optimaliseert binnen de doelstellingen en grenzen die wij eraan meegeven. Algoritmische verantwoordelijkheid wordt daarmee niet alleen een technisch of juridisch onderwerp, maar nadrukkelijk ook een governancevraagstuk.
Bestuurders zouden daarom niet alleen moeten vragen of een algoritme de gewenste KPI verbetert, maar ook welke neveneffecten ontstaan, welke groepen extra kwetsbaar zijn en wanneer verdere optimalisatie niet langer wenselijk is. Daar hoort bovendien de vraag bij of organisaties over de juiste data beschikken om die effecten daadwerkelijk te kunnen zien en beoordelen.
Als succes zelf een risico wordt
De Meta-schikking kan daarmee een belangrijk moment blijken in de ontwikkeling van datagedreven bedrijfsmodellen. Niet omdat personalisatie of algoritmen plotseling verkeerd zijn, maar omdat steeds duidelijker wordt dat het vermogen om gedrag steeds nauwkeuriger te voorspellen en te beïnvloeden ook verantwoordelijkheid met zich meebrengt.
Hoe beter organisaties daarin worden, hoe minder vanzelfsprekend het is om uitsluitend naar de positieve ontwikkeling van engagement, kijktijd of conversie te kijken. De relevante vraag verschuift daarmee van de technische prestaties van het algoritme naar de keuzes die een organisatie maakt over wat zij het algoritme laat optimaliseren en welke grenzen zij daarbij stelt.
Dat is misschien wel het meest bizarre wat achter de discussie over Meta schuilgaat: het maatschappelijke probleem ontstaat niet noodzakelijk wanneer een algoritme slecht functioneert, maar kan juist zichtbaar worden wanneer het bijzonder succesvol is in het uitvoeren van de opdracht die wij het hebben gegeven