El rápido ascenso de la IA generativa ha despertado entusiasmo, pero detrás de tanta expectación se esconde una historia inquietante. El nuevo documental de la directora Valerie Veatch, Ghost in the Machine, expone cómo los fundamentos de la IA están profundamente entrelazados con la desacreditada pseudociencia de la eugenesia, una historia que explica por qué estos sistemas producen constantemente resultados racistas, sexistas e intolerantes.
El problema no es sólo “basura que entra, basura que sale”
Muchos descartan el sesgo de la IA como una simple cuestión de datos de entrenamiento defectuosos (“basura entra, basura sale”). Sin embargo, Ghost in the Machine sostiene que el problema es mucho más profundo. El concepto mismo de “inteligencia artificial” nació de un esfuerzo deliberado por conseguir financiación para la investigación, oscureciendo sus orígenes en la ciencia racial de la era victoriana. El documental traza una línea directa desde el trabajo de Francis Galton, pionero de la eugenesia y primo de Charles Darwin, hasta los algoritmos modernos de aprendizaje automático.
La obsesión de Galton por cuantificar los rasgos humanos (incluido el atractivo de las diferentes razas) sentó las bases para las herramientas estadísticas que se utilizan en la actualidad en la IA. Karl Pearson, su protegido, normalizó aún más la idea de que la inteligencia se podía medir y que los cerebros humanos funcionaban como máquinas. Este pensamiento fue crucial para convencer al público de la fantástica noción de la IA, y continúa dando forma al funcionamiento de estos sistemas.
El sesgo no reconocido
Veatch cuenta su propia experiencia con Sora de OpenAI, donde la modelo blanqueaba constantemente imágenes de una artista negra, preservando su moda pero borrando sus rasgos raciales en representaciones de “espacios en blanco”. Cuando informó sobre este problema a OpenAI, la despidieron encogiéndose de hombros: “Es muy vergonzoso mencionarlo; no hay nada que podamos hacer para cambiarlo”.
Esta indiferencia no es accidental. El documental revela cómo las empresas de IA restan importancia activamente a los sesgos sistémicos incorporados a su tecnología. El contexto histórico ayuda a explicar por qué estas empresas parecen tan desinteresadas en abordar los problemas actuales, ya que los fundamentos mismos de la IA están arraigados en ideologías discriminatorias.
La ilusión de la neutralidad
El documental desmantela el mito de la neutralidad de la IA y demuestra cómo los vínculos históricos de la industria con la eugenesia influyen en sus resultados actuales. Veatch enfatiza que cualquier intento de sanear esta historia –como entrevistar a los directores ejecutivos de tecnología para obtener una perspectiva “equilibrada”- sólo serviría como propaganda.
“¿Voy a abrazar a Sam Altman frente a la cámara? ¿Es esa una película veraz sobre esta tecnología? Eso es propaganda”.
Ghost in the Machine presenta un argumento convincente de que cada aspecto del espacio de la IA ha sido profundamente influenciado por sus conexiones con campos de la ciencia creados para apoyar visiones del mundo discriminatorias. La película se transmitirá a través de Kinema del 26 al 28 de marzo antes de transmitirse por PBS este otoño.
La incómoda verdad es que la IA generativa no es simplemente una herramienta neutral; es producto de una historia impregnada de racismo y pseudociencia. Ignorar este hecho sólo perpetuará los prejuicios dañinos que estos sistemas ya amplifican.
