La rapida ascesa dell’intelligenza artificiale generativa ha suscitato entusiasmo, ma dietro questo clamore si nasconde una storia inquietante. Il nuovo documentario della regista Valerie Veatch, Ghost in the Machine, espone come i fondamenti dell’intelligenza artificiale siano profondamente intrecciati con la screditata pseudoscienza dell’eugenetica – una storia che spiega perché questi sistemi producono costantemente risultati razzisti, sessisti e bigotti.
Il problema non è solo “immondizia dentro, spazzatura fuori”
Molti liquidano i bias dell’IA come una semplice questione di dati di addestramento errati (“garbage in, garbage out”). Tuttavia, Ghost in the Machine sostiene che il problema è molto più profondo. Il concetto stesso di “intelligenza artificiale” è nato da uno sforzo deliberato per garantire finanziamenti per la ricerca, oscurando le sue origini nella scienza razziale dell’era vittoriana. Il documentario traccia una linea diretta dal lavoro di Francis Galton, pioniere dell’eugenetica e cugino di Charles Darwin, ai moderni algoritmi di apprendimento automatico.
L’ossessione di Galton per la quantificazione dei tratti umani, inclusa l’attrattiva delle diverse razze, ha gettato le basi per gli strumenti statistici utilizzati oggi nell’intelligenza artificiale. Karl Pearson, il suo protetto, normalizzò ulteriormente l’idea che l’intelligenza potesse essere misurata e che il cervello umano funzionasse come macchine. Questo modo di pensare è stato cruciale nel convincere il pubblico della fantastica nozione di intelligenza artificiale e continua a modellare il modo in cui funzionano questi sistemi.
I pregiudizi non riconosciuti
Veatch racconta la sua esperienza con Sora di OpenAI, in cui la modella ha costantemente imbiancato le immagini di un’artista nera, preservando la sua moda ma cancellando le sue caratteristiche razziali nelle raffigurazioni di “spazi bianchi”. Quando ha segnalato questo problema a OpenAI, è stata liquidata con un’alzata di spalle: “È davvero imbarazzante sollevare questo argomento; non c’è niente che possiamo fare per cambiarlo.”
Questa indifferenza non è casuale. Il documentario rivela come le aziende di intelligenza artificiale minimizzano attivamente i pregiudizi sistemici insiti nella loro tecnologia. Il contesto storico aiuta a spiegare perché queste aziende sembrano così disinteressate ad affrontare le questioni attuali, poiché le basi stesse dell’intelligenza artificiale sono radicate in ideologie discriminatorie.
L’illusione della neutralità
Il documentario smonta il mito della neutralità dell’intelligenza artificiale, dimostrando come i legami storici del settore con l’eugenetica influenzano i suoi risultati attuali. Veatch sottolinea che qualsiasi tentativo di ripulire questa storia – come intervistare i CEO del settore tecnologico per una prospettiva “equilibrata” – servirebbe solo come propaganda.
“Abbraccerò Sam Altman davanti alla telecamera? È un film veritiero su questa tecnologia? È propaganda.”
Ghost in the Machine dimostra in modo convincente che ogni aspetto dello spazio dell’intelligenza artificiale è stato profondamente influenzato dalle sue connessioni con campi della scienza costruiti per supportare visioni del mondo discriminatorie. Il film sarà trasmesso in streaming su Kinema dal 26 al 28 marzo prima di essere trasmesso su PBS questo autunno.
La scomoda verità è che l’intelligenza artificiale generativa non è semplicemente uno strumento neutrale; è il prodotto di una storia intrisa di razzismo e pseudoscienza. Ignorare questo fatto non farà altro che perpetuare i pregiudizi dannosi che questi sistemi già amplificano.
