Rychlý vzestup generativní umělé inteligence vyvolal vzrušení, ale za humbukem se skrývá znepokojivý příběh. Nový dokument režisérky Valerie Veatch, Ghost in the Machine, odhaluje, jak jsou základy umělé inteligence hluboce propojeny s zdiskreditovanou pseudovědou eugeniky – příběh, který vysvětluje, proč tyto systémy soustavně produkují rasistické, sexistické a neobjektivní výsledky.
Problém není jen “odpadky v”
Mnozí považují zkreslení AI za jednoduchý problém nekvalitních tréninkových dat („odpadky dovnitř, odpadky ven“). Ghost in the Machine však tvrdí, že problém sahá mnohem hlouběji. Samotný koncept „umělé inteligence“ vznikl ze záměrné snahy zajistit financování výzkumu a zároveň skrýt své kořeny ve viktoriánské rasové vědě. Dokument sleduje přímé spojení mezi dílem Francise Galtona, průkopníka eugeniky a bratrance Charlese Darwina, a moderními algoritmy strojového učení.
Galtonova posedlost kvantifikováním lidských vlastností, včetně přitažlivosti různých ras, položila základ pro statistické nástroje, které se dnes v AI používají. Jeho chráněnec Karl Pearson dále normalizoval myšlenku, že inteligenci lze měřit a že lidský mozek funguje jako stroj. Toto myšlení bylo zásadní při přesvědčování veřejnosti o fantastickém konceptu umělé inteligence a nadále utváří způsob, jakým tyto systémy fungují.
Nepřiznaná zaujatost
Veatch vypráví o své vlastní zkušenosti s OpenAI Sora, kde modelka důsledně vybílila obrázky černé umělkyně, zachovala si oblečení, ale na snímcích bílých míst vymazala rasové rysy. Když nahlásila tento problém OpenAI, odpověděli lhostejně: „To je velmi trapná věc, kterou je třeba uvést; nemůžeme s tím nic dělat“.
Tato lhostejnost není náhodná. Dokument ukazuje, jak společnosti AI aktivně bagatelizují systémové předsudky zabudované do jejich technologií. Historický kontext pomáhá vysvětlit, proč se tyto společnosti zdají být tak nezaujaté řešením moderních problémů, protože samotné základy umělé inteligence jsou zakořeněny v diskriminačních ideologiích.
Iluze neutrality
Dokument dekonstruuje mýtus o neutralitě umělé inteligence tím, že ukazuje, jak historické vazby tohoto odvětví na eugeniku ovlivňují jeho současné výsledky. Veatch zdůrazňuje, že jakýkoli pokus překrýt příběh – například rozhovory s CTO za účelem dosažení „vyváženého“ pohledu – bude sloužit pouze jako propaganda.
“Mám před kamerou obejmout Sama Altmana? Bude to skutečný film o této technologii? Tohle je propaganda.”
Ghost in the Machine je přesvědčivým důkazem, že každý aspekt prostoru umělé inteligence byl hluboce ovlivněn jeho propojením s obory vědy navrženými tak, aby podporovaly diskriminační pohledy na svět. Film se bude vysílat na Kinemě od 26. do 28. března a poté na PBS letos na podzim.
Nepohodlnou pravdou je, že generativní AI není jen neutrální nástroj; je to produkt historie nasáklé rasismem a pseudovědou. Ignorování této skutečnosti bude jen udržovat škodlivé předsudky, které tyto systémy již posilují.
