De snelle opkomst van generatieve AI heeft tot opwinding geleid, maar achter de hype schuilt een verontrustende geschiedenis. De nieuwe documentaire van regisseur Valerie Veatch, Ghost in the Machine, laat zien hoe de fundamenten van AI diep verweven zijn met de in diskrediet geraakte pseudowetenschap van de eugenetica – een geschiedenis die verklaart waarom deze systemen consequent racistische, seksistische en onverdraagzame resultaten produceren.
Het probleem is niet alleen “Garbage in, Garbage out”
Velen doen de vooringenomenheid van AI af als een eenvoudige kwestie van gebrekkige trainingsgegevens (“garbage in, garbage out”). Ghost in the Machine beweert echter dat het probleem veel dieper zit. Het concept van ‘kunstmatige intelligentie’ is ontstaan uit een doelbewuste poging om financiering voor onderzoek veilig te stellen, waardoor de oorsprong ervan in de rassenwetenschap uit het Victoriaanse tijdperk verdoezeld werd. De documentaire volgt een directe lijn van het werk van Francis Galton, een pionier op het gebied van de eugenetica en neef van Charles Darwin, naar moderne machine learning-algoritmen.
Galtons obsessie met het kwantificeren van menselijke eigenschappen – inclusief de aantrekkelijkheid van verschillende rassen – legde de basis voor statistische hulpmiddelen die tegenwoordig in AI worden gebruikt. Karl Pearson, zijn beschermeling, normaliseerde verder het idee dat intelligentie gemeten kon worden en dat menselijke hersenen als machines functioneerden. Deze manier van denken was cruciaal om het fantastische idee van AI aan het publiek te verkopen, en het blijft bepalen hoe deze systemen werken.
De niet-erkende vooringenomenheid
Veatch vertelt over haar eigen ervaring met OpenAI’s Sora, waarbij het model consequent afbeeldingen van een zwarte vrouwelijke kunstenaar vergoelijkte, haar mode behield maar haar raciale kenmerken uitwist in afbeeldingen van ‘witte ruimtes’. Toen ze dit probleem aan OpenAI rapporteerde, werd ze schouderophalend weggestuurd: “Dit is erg ineenkrimpend om ter sprake te brengen; we kunnen er niets aan doen.”
Deze onverschilligheid is niet toevallig. De documentaire laat zien hoe AI-bedrijven actief de systemische vooroordelen bagatelliseren die in hun technologie zijn ingebakken. De historische context helpt verklaren waarom deze bedrijven zo ongeïnteresseerd lijken in het aanpakken van hedendaagse problemen, aangezien de fundamenten van AI geworteld zijn in discriminerende ideologieën.
De illusie van neutraliteit
De documentaire ontmantelt de mythe van AI-neutraliteit en laat zien hoe de historische banden van de industrie met eugenetica haar huidige resultaten beïnvloeden. Veatch benadrukt dat elke poging om deze geschiedenis te zuiveren – zoals het interviewen van technologie-CEO’s voor een ‘evenwichtig’ perspectief – alleen maar als propaganda zou dienen.
“Ga ik Sam Altman voor de camera knuffelen? Is dat een waarheidsgetrouwe film over deze technologie? Dat is propaganda.”
Ghost in the Machine maakt overtuigend duidelijk dat elk aspect van de AI-ruimte diepgaand is beïnvloed door de verbindingen ervan met wetenschapsgebieden die zijn gebouwd om discriminerende wereldbeelden te ondersteunen. De film wordt van 26 tot 28 maart gestreamd via Kinema voordat hij dit najaar op PBS wordt uitgezonden.
De ongemakkelijke waarheid is dat generatieve AI niet simpelweg een neutraal hulpmiddel is; het is een product van een geschiedenis doordrenkt van racisme en pseudowetenschap. Het negeren van dit feit zal de schadelijke vooroordelen die deze systemen al versterken alleen maar in stand houden.
