L’essor rapide de l’IA générative a suscité l’enthousiasme, mais derrière ce battage médiatique se cache une histoire inquiétante. Le nouveau documentaire de la réalisatrice Valerie Veatch, Ghost in the Machine, expose comment les fondements de l’IA sont profondément liés à la pseudoscience discréditée de l’eugénisme – une histoire qui explique pourquoi ces systèmes produisent systématiquement des résultats racistes, sexistes et sectaires.
Le problème n’est pas seulement « Déchets entrants, déchets sortants »
Beaucoup rejettent les préjugés de l’IA comme une simple question de données d’entraînement défectueuses (« garbage in, garbage out »). Cependant, Ghost in the Machine affirme que le problème est bien plus profond. Le concept même d’« intelligence artificielle » est né d’un effort délibéré visant à obtenir un financement pour la recherche, masquant ainsi ses origines dans la science raciale de l’ère victorienne. Le documentaire trace une ligne directe entre les travaux de Francis Galton, pionnier de l’eugénisme et cousin de Charles Darwin, et les algorithmes modernes d’apprentissage automatique.
L’obsession de Galton pour la quantification des caractéristiques humaines – y compris l’attrait des différentes races – a jeté les bases des outils statistiques utilisés aujourd’hui dans l’IA. Karl Pearson, son protégé, a ensuite normalisé l’idée selon laquelle l’intelligence pouvait être mesurée et que le cerveau humain fonctionnait comme des machines. Cette réflexion a été cruciale pour convaincre le public de la notion fantastique de l’IA, et elle continue de façonner le fonctionnement de ces systèmes.
Le biais non reconnu
Veatch raconte sa propre expérience avec Sora d’OpenAI, où le modèle blanchissait systématiquement les images d’une artiste noire, préservant sa mode mais effaçant ses caractéristiques raciales dans les représentations d’« espaces blancs ». Lorsqu’elle a signalé ce problème à OpenAI, elle a été renvoyée avec un haussement d’épaules : “C’est très embarrassant d’en parler ; nous ne pouvons rien faire pour le changer.”
Cette indifférence n’est pas fortuite. Le documentaire révèle comment les entreprises d’IA minimisent activement les préjugés systémiques inhérents à leur technologie. Le contexte historique contribue à expliquer pourquoi ces entreprises semblent si peu intéressées par les problèmes actuels, alors que les fondements mêmes de l’IA sont ancrés dans des idéologies discriminatoires.
L’illusion de la neutralité
Le documentaire démantèle le mythe de la neutralité de l’IA, démontrant comment les liens historiques de l’industrie avec l’eugénisme influencent ses productions actuelles. Veatch souligne que toute tentative visant à assainir cette histoire – comme par exemple en interviewant des PDG du secteur technologique pour avoir une perspective « équilibrée » – ne servirait que de propagande.
“Est-ce que je vais serrer Sam Altman dans mes bras devant la caméra ? Est-ce un film véridique sur cette technologie ? C’est de la propagande.”
Ghost in the Machine démontre de manière convaincante que chaque aspect de l’espace de l’IA a été profondément influencé par ses liens avec des domaines scientifiques construits pour soutenir des visions du monde discriminatoires. Le film sera diffusé via Kinema du 26 au 28 mars avant d’être diffusé sur PBS cet automne.
La vérité inconfortable est que l’IA générative n’est pas simplement un outil neutre ; c’est le produit d’une histoire imprégnée de racisme et de pseudoscience. Ignorer ce fait ne fera que perpétuer les préjugés néfastes que ces systèmes amplifient déjà.
