Is kunstmatige intelligentie seksistisch?

8 maart is het International Women’s Day, een dag die solidariteit oproept voor vrouwen overal ter wereld. In het kader daarvan ontwierp TEDxAmsterdamWomen een AI-tool die alleen beelden van vrouwen genereert. Het moet bewustwording creëren voor een probleem van de snel opkomende AI-technologie: kunstmatige intelligentie is bevooroordeeld.

DOOR: MAARTJE NIJHOF

Als je MidJourney AI vraagt: ’Toon me een afbeelding van een dokter’, dan verschijnt er een hele pagina aan witte mannen met stethoscopen in witte jassen. Wat opvalt aan deze technologie, die kunstmatige intelligentie gebruikt om unieke illustraties te creëren: het genereert geen afbeeldingen van vrouwen en er is weinig etnische variatie. ‘Data classificatie is bevooroordeeld’, zegt Helen Pink, initiatiefnemer van TEDxAmsterdamWomen. ‘Het is geen weerspiegeling van onze maatschappij.’

Haken en ogen van AI

AI, ofwel kunstmatige intelligentie, is rap in opkomst. Experts denken dat de technologie al snel een even groot onderdeel wordt van ons dagelijks leven als de mobiele telefoon. Wat zijn de haken en ogen van AI? En op welke manier wordt dit in onze samenleving geïntegreerd?

Een vorm van AI die de laatste tijd al eens in het nieuws voorbijkwam is ChatGPT. Dit is een soort chatpartner die je opdrachten kan geven om teksten te schrijven. De AI voert die opdrachten uit en schrijft dan bijvoorbeeld een gedicht of kort verhaal. In het onderwijs maakt men zich zorgen over deze ontwikkeling, omdat ChatGPT met de juiste input binnen enkele minuten een heel geschiedeniswerkstuk kan schrijven.

Nog zo’n vorm van AI genereert beelden in plaats van woorden. Een voorbeeld daarvan is MidJourney. Dit programma maakt afbeeldingen op basis van prompts (opdrachten) van de gebruiker. De AI heeft een database ter beschikking en plukt daaruit inspiratie voor die beelden, maar alles wat MidJourney maakt is uniek. Men gebruikt dit al om kunst mee te maken of grappige plaatjes. Niets is te gek. Voer het in, en de computer maakt het. Maar dit is ook waar het probleem optreedt dat TEDxAmsterdamWomen aan de kaak wil stellen: het is niet alleen een menselijke eigenschap; zelfs computers hebben vooroordelen.

MissJourney

Dit is een probleem, vindt Pink, en het is belangrijk om nu te handelen. ‘AI staat nu in de kinderschoenen. In de toekomst wordt het een integraal onderdeel van onze maatschappij. Het is belangrijk om de gebreken van deze technologie nú uit te wijzen.’ Om dit waar te maken, ontwikkelde TEDxAmsterdamWomen de AI-tool MissJourney, een woordgrap op het al bestaande MidJourney. Deze AI doet hetzelfde als tools die al in omloop zijn, maar met een twist: dit programma houdt wél rekening met variatie in geslacht, lichaamstype en etniciteit.

Waarom is dit belangrijk? ‘Veel van wat wij doen is vrouwen mondiger maken in onze samenleving. We integreren diversiteit en inclusie in de werkomgeving’, zegt Pink. ‘Als we dat vanaf het begin af aan al hadden gedaan, was dat nu niet nodig geweest. Daarom moeten we nu invloed uitoefenen op de ontwikkeling van AI.’

Oplossing

MissJourney is een antwoord op het vraagstuk van de vooroordelen van kunstmatige intelligentie, maar het is geen directe oplossing. Het moet bewustwording voor het probleem genereren. ‘We hebben een soort schil om bestaande technologie heen gebouwd waar een bepaalde slimheid in zit’, vertelt Sjors van Hoof, creative director van MissJourney. ‘Dit zorgt voor meer diverse resultaten. Het is slechts een mogelijkheid van een oplossing.’

TEDxAmsterdamWomen wil met deze campagne laten zien dat het al anders kan. ‘Dat gaat van vertegenwoordiging in de bedrijven zelf, tot het trainen van datamodellen, tot het creëren van de juiste datamodellen en de techniek er omheen’, aldus Van Hoof. Deze inclusieve AI moet de makers van andere AI-programma’s inspireren. Het is belangrijk dat de ontwikkelaars én de mensen die dit soort AI gebruiken zich bewust worden van het feit dat die bias er is.

MissJourney is daarnaast een gebruikersvriendelijker alternatief, vertelt Van Hoof, dat de technologie laagdrempeliger maakt. ‘We hebben het heel toegankelijk gemaakt voor iedereen. Het is gratis en stelt mensen ertoe in staat om lol te maken. Aan de ene kant genereert het meer aandacht voor de valkuilen van AI, maar het laat mensen ook deze nieuwe technologie ontdekken.’

‘Wij willen dat vrouwen naar onze website gaan en een beeld genereren van een superheld of een succesvolle zakenvrouw, en dat ze dat beeld delen op sociale media om te laten zien dat vrouwen succesvol kunnen zijn’, zegt Pink. ‘We willen dat de hele wereld dat inziet.’ •

MissJourney is te zien en te gebruiken via https://missjourney.ai/.