Швидкий зліт генеративного ІІ викликав захоплення, але за галасом ховається тривожна історія. Новий документальний фільм режисера Валері Вітч, “Примара в машині”, розкриває, як основи ІІ глибоко переплетені з дискредитованою лженаукою євгеніки, – історія, яка пояснює, чому ці системи послідовно виробляють расистські, сексистські та упереджені результати.
Проблема не тільки в “смітті на вході”
Багато хто вважає упередженість ІІ простою проблемою неякісних навчальних даних (“сміття на вході – сміття на виході”). Однак у Примарі в машині стверджується, що проблема набагато глибша. Сама концепція «штучного інтелекту» виникла з навмисних зусиль щодо забезпечення фінансування досліджень, приховуючи своє коріння в расовій науці вікторіанської епохи. Документальний фільм простежує прямий зв’язок між роботами Френсіса Галтона, піонера євгеніки та двоюрідного брата Чарльза Дарвіна, та сучасними алгоритмами машинного навчання.
Одержимість Галтона кількісною оцінкою людських рис, включаючи привабливість різних рас, заклала основу для статистичних інструментів, які використовуються сьогодні. Його протеже Карл Пірсон ще більше нормалізував ідею про те, що інтелект можна виміряти, і що людський мозок функціонує як машина. Це мислення було вирішальним у переконанні громадськості у фантастичній концепції ІІ, і воно продовжує формувати те, як ці системи працюють.
Невизнана упередженість
Вітч розповідає про свій власний досвід із OpenAI Sora, де модель послідовно «обелівала» зображення темношкірої художниці, зберігаючи її одяг, але стираючи расові риси у зображеннях «білих просторів». Коли вона повідомила про цю проблему в OpenAI, їй з байдужістю відповіли: «Це дуже незручно піднімати; ми нічого не можемо з цим вдіяти».
Ця байдужість не випадкова. Документальний фільм показує, як компанії, які займаються ІІ, активно применшують системні упередження, вбудовані у їх технології. Історичний контекст допомагає пояснити, чому ці компанії здаються такими незацікавленими у вирішенні сучасних проблем, оскільки самі основи ІІ кореняться в дискримінаційних ідеологіях.
Ілюзія нейтралітету
Документальний фільм руйнує міф про нейтральність ІІ, демонструючи, як історичні зв’язки індустрії з євгенікою впливають на її поточні результати. Вітч підкреслює, що будь-яка спроба замазати цю історію – наприклад, інтерв’ювання технічних директорів для досягнення «збалансованого» погляду – буде лише пропагандою.
«Я маю обійняти Сема Альтмана на камеру? Чи це буде правдивим фільмом про цю технологію? Це пропаганда».
Примара в машині переконливо доводить, що кожен аспект ІІ-простору був глибоко схильний до впливу його зв’язків з областями науки, створеними для підтримки дискримінаційних світоглядів. Фільм транслюватиметься на Kinema з 26 по 28 березня, а потім вийде в ефір на PBS цієї осені.
Незручна правда полягає в тому, що генеративний ІІ – це не просто нейтральний інструмент; це продукт історії, просоченої расизмом та лженаукою. Ігнорування цього факту лише увічнить шкідливі упередження, які ці системи вже посилюють.
