Google heeft van haar AI-plaatjesgenerator Gemini tijdelijk de functie uitgeschakeld om afbeeldingen van personen te maken, na klachten over onjuiste historische beelden. Het lijkt erop dat de techgigant teveel haast had om de concurrentie voor te blijven, waardoor Gemini te weinig is getest. Google denkt de fout in enkele weken te kunnen herstellen.
Een Duitse soldaat uit 1943. Een Amerikaanse senator uit de negentiende eeuw. Een paus. Dergelijke beelden van historische figuren werden onlangs opgevraagd via Google’s nieuwste AI-techniek Gemini. Maar de plaatjes die de afbeeldingengenerator opleverde toonde mensen met een donkere huidskleur of een vrouwelijke paus. Historisch onjuist, zo reageerden critici op X, het voormalige Twitter. Google verontschuldigde zich en beloofde beterschap. Hoe kon het misgaan? Waarschijnlijk door teveel haast en te weinig testen, schrijft Mark Hijink in NRC.
Hoe werkt Gemini?
Google’s Gemini kan kunstmatige afbeeldingen maken op basis van tekstuele omschrijvingen van gebruikers. Het is getraind met diverse voorbeelden. Het lijkt daarmee op technologieën van concurrenten, zoals afbeeldinggenerator Dall-E van OpenAI. Het Amerikaanse bedrijf passeerde Google eind 2022 met ChatGPT. Door veel rekenkracht los te laten op massale hoeveelheden data werd de technologie rijp voor algemenere toepassingen.
Stereotyperingen
De technologieën kunnen echter stereotyperingen in de hand werken, zo bleek eerder uit onderzoek van The Washington Post, meldt de NOS. Als een gebruiker bijvoorbeeld om een afbeelding van een ‘leider’ vraagt, wordt relatief vaak een man getoond, terwijl ‘gevangenen’ in meerderheid afbeeldingen van zwarte mensen oplevert. Google beloofde met Gemini iets te doen aan deze AI-stereotyperingen, maar lijkt daar te ver in doorgeschoten te zijn.
Wil Google te snel?
Voor Google is het pijnlijk om de functionaliteit tijdelijk offline te halen. Het bedrijf wil koploper zijn in kunstmatige intelligentie. Als antwoord op haar concurrenten lanceerde Google in 2023 AI-assistent Bard. Ook dat leverde een blunder op. De chatbot gaf een verkeerd antwoord op een voorbeeldvraag over de ontdekkingen van de James Webb-ruimtetelescoop, zoals NOS meldde. Google doopte Bard in februari om tot Gemini, met daarbij nieuwe functionaliteiten, zoals de afbeeldingengenerator.
Hard werken aan herstel
Google wil op korte termijn een verbeterde versie van Gemini introduceren. Het bedrijf werkt er hard aan om de functionaliteit te herstellen, meldt Google’s CEO Sundar Pichai volgens CNBC. Het herstellen van de fout duurt een paar weken, zo schat Google’s AI-chef Demis Hassabis in. Hij geeft toe dat Gemini niet werkte zoals is bedoeld, meldt Reuters. Hassabis legde tijdens het Mobile World Congress in Barcelona uit dat het lastig is om een universeel mensbeeld te creëren waarin iedereen zich herkent en dat niemand tegen het zere been schopt, aldus Hijink in NRC.
Bron: NRC, 1 maart 2024
Googles blunder toont de ongemakkelijke waarheid achter AI – NRC