A rápida ascensão da IA generativa despertou entusiasmo, mas por trás desse entusiasmo está uma história perturbadora. O novo documentário da realizadora Valerie Veatch, Ghost in the Machine, expõe como os fundamentos da IA estão profundamente interligados com a desacreditada pseudociência da eugenia – uma história que explica porque é que estes sistemas produzem consistentemente resultados racistas, sexistas e preconceituosos.
O problema não é apenas “entra lixo, sai lixo”
Muitos descartam o preconceito da IA como uma simples questão de dados de treinamento falhos (“entra lixo, sai lixo”). No entanto, Ghost in the Machine argumenta que o problema é muito mais profundo. O próprio conceito de “inteligência artificial” nasceu de um esforço deliberado para garantir financiamento para investigação, obscurecendo as suas origens na ciência racial da era vitoriana. O documentário traça uma linha direta entre o trabalho de Francis Galton, pioneiro da eugenia e primo de Charles Darwin, até os modernos algoritmos de aprendizado de máquina.
A obsessão de Galton em quantificar as características humanas – incluindo a atratividade de diferentes raças – lançou as bases para as ferramentas estatísticas utilizadas atualmente na IA. Karl Pearson, seu protegido, normalizou ainda mais a ideia de que a inteligência poderia ser medida e que os cérebros humanos funcionavam como máquinas. Este pensamento foi crucial para vender ao público a noção fantástica de IA e continua a moldar a forma como estes sistemas funcionam.
O preconceito não reconhecido
Veatch relata sua própria experiência com Sora da OpenAI, onde a modelo consistentemente branqueou imagens de uma artista negra, preservando sua moda, mas apagando suas características raciais em representações de “espaços em branco”. Quando ela relatou esse problema à OpenAI, ela foi rejeitada com um encolher de ombros: “É muito estranho trazer isso à tona; não há nada que possamos fazer para mudar isso.”
Essa indiferença não é acidental. O documentário revela como as empresas de IA minimizam ativamente os preconceitos sistémicos incorporados na sua tecnologia. O contexto histórico ajuda a explicar porque é que estas empresas parecem tão desinteressadas em abordar as questões actuais, uma vez que os próprios fundamentos da IA estão enraizados em ideologias discriminatórias.
A Ilusão da Neutralidade
O documentário desmantela o mito da neutralidade da IA, demonstrando como os laços históricos da indústria com a eugenia influenciam os seus resultados atuais. Veatch enfatiza que qualquer tentativa de higienizar esta história – como entrevistar CEOs de tecnologia para obter uma perspectiva “equilibrada” – serviria apenas como propaganda.
“Vou abraçar Sam Altman diante das câmeras? Esse é um filme verdadeiro sobre essa tecnologia? Isso é propaganda.”
Ghost in the Machine apresenta um argumento convincente de que todos os aspectos do espaço da IA foram profundamente influenciados pelas suas conexões com campos da ciência construídos para apoiar visões de mundo discriminatórias. O filme será transmitido via Kinema de 26 a 28 de março, antes de ir ao ar na PBS neste outono.
A verdade incômoda é que a IA generativa não é simplesmente uma ferramenta neutra; é produto de uma história impregnada de racismo e pseudociência. Ignorar este facto apenas perpetuará os preconceitos prejudiciais que estes sistemas já amplificam.
