Быстрый взлет генеративного ИИ вызвал восторг, но за шумихой скрывается тревожная история. Новый документальный фильм режиссера Валери Витч, Призрак в машине, раскрывает, как основы ИИ глубоко переплетены с дискредитированной лженаукой евгеники, – история, которая объясняет, почему эти системы последовательно производят расистские, сексистские и предвзятые результаты.
Проблема не только в «мусоре на входе»
Многие считают предвзятость ИИ простой проблемой некачественных обучающих данных («мусор на входе – мусор на выходе»). Однако в Призраке в машине утверждается, что проблема гораздо глубже. Сама концепция «искусственного интеллекта» возникла из преднамеренных усилий по обеспечению финансирования исследований, скрывая свои корни в расовой науке викторианской эпохи. Документальный фильм прослеживает прямую связь между работами Фрэнсиса Галтона, пионера евгеники и двоюродного брата Чарльза Дарвина, и современными алгоритмами машинного обучения.
Одержимость Галтона количественной оценкой человеческих черт, включая привлекательность разных рас, заложила основу для статистических инструментов, используемых в ИИ сегодня. Его протеже, Карл Пирсон, еще больше нормализовал идею о том, что интеллект можно измерить, и что человеческий мозг функционирует как машина. Это мышление было решающим в убеждении общественности в фантастической концепции ИИ, и оно продолжает формировать то, как эти системы работают.
Непризнанная предвзятость
Витч рассказывает о своем собственном опыте с OpenAI Sora, где модель последовательно «обеливала» изображения темнокожей художницы, сохраняя ее одежду, но стирая расовые черты в изображениях «белых пространств». Когда она сообщила об этой проблеме в OpenAI, ей ответили с равнодушием: «Это очень неловко поднимать; мы ничего не можем с этим поделать».
Это безразличие не случайно. Документальный фильм показывает, как компании, занимающиеся ИИ, активно преуменьшают системные предубеждения, встроенные в их технологии. Исторический контекст помогает объяснить, почему эти компании кажутся так незаинтересованными в решении современных проблем, поскольку сами основы ИИ коренятся в дискриминационных идеологиях.
Иллюзия нейтралитета
Документальный фильм разрушает миф о нейтральности ИИ, демонстрируя, как исторические связи индустрии с евгеникой влияют на ее текущие результаты. Витч подчеркивает, что любая попытка замазать эту историю – например, интервьюирование технических директоров для достижения «сбалансированного» взгляда – будет служить лишь пропагандой.
«Я должна обнять Сэма Альтмана на камеру? Будет ли это правдивым фильмом об этой технологии? Это пропаганда».
Призрак в машине убедительно доказывает, что каждый аспект ИИ-пространства был глубоко подвержен влиянию его связей с областями науки, созданными для поддержки дискриминационных мировоззрений. Фильм будет транслироваться на Kinema с 26 по 28 марта, а затем выйдет в эфир на PBS этой осенью.
Неудобная правда заключается в том, что генеративный ИИ — это не просто нейтральный инструмент; это продукт истории, пропитанной расизмом и лженаукой. Игнорирование этого факта только увековечит вредные предубеждения, которые эти системы уже усиливают.
