Už dvě tisíciletí si lidstvo klade zásadní otázku: Máme se slepě řídit autoritami, i božskými, nebo si ponechat právo činit vlastní rozhodnutí? Tato prastará debata, která vznikla v prvním století našeho letopočtu v židovském právu, nyní podpírá budoucnost umělé inteligence.
Podle legendy rabi Eliezer, přesvědčený, že má pravdu, vykonal zázraky, aby dokázal svůj názor. Způsobil, že se stromy pohnuly, řeky tekly pozpátku a zdi synagogy se rozpadly, až nakonec uslyšel dunivý hlas z nebe, který potvrdil, že měl pravdu. Jiní mudrci to však odmítli s tím, že zákon je založen na lidských rozhodnutích a ne na Božím příkazu. “Tóra není v nebi!” – naléhali.
Toto není jen archaická teologická debata; toto je plán pro moderní dilema AI. Moderní vývoj umělé inteligence, zejména snaha o „superinteligenci“, se rychle posouvá od vytváření užitečných nástrojů ke konstrukci božské entity s nepředstavitelnou silou. Ale i kdyby byla taková umělá inteligence dokonale v souladu s lidskými hodnotami, měli bychom jí postoupit kontrolu?
Iluze shody
Odborníci hovoří o sladění umělé inteligence s lidskými hodnotami, ale skutečné sladění není jen o prevenci škodlivých výsledků. Tím je zachování lidské autonomie. Pokud za nás o všem rozhoduje umělá inteligence, jaký význam v našich životech zůstane? Filozof John Hicks tvrdil, že Bůh se záměrně distancuje od lidských záležitostí, aby umožnil svobodnou vůli; měl by stejný princip platit pro AI?
Ambice tohoto odvětví se již neomezují pouze na chatbota, ale na vytvoření „superinteligence“ schopné řešit všechny otázky fyziky a rozhodovat za lidstvo. Generální ředitel OpenAI Sam Altman mluví o „magické inteligenci na obloze“, síle schopné utvářet naši budoucnost. Tato ambice nás nutí ptát se: i když vybudujeme dokonale morální AI, měli bychom to udělat? Nebo nás připraví o možnost volby a učiní existenci bezvýznamnou?
Problém s dodržováním předpisů je hlubší než kód
Řešení „problému s dodržováním předpisů“ – zajištění toho, aby umělá inteligence dělala to, co chceme – není jen technickou výzvou. To je filozofická krize. Morálka je subjektivní, kontroverzní a závisí na kontextu. Inženýři umělé inteligence, často bez znalosti etiky, mají potíže s definováním i základních principů. Mělká etika vedla k zaujatosti, diskriminaci a dokonce k tragickým následkům.
I kdybychom se shodli na jediném morálním rámci, stále by to bylo nedokonalé. Historie nás učí, že porušování pravidel může být ctnostné: odmítnutí Rosy Parksové vzdát se místa v autobuse nebylo jen nezákonné; vyvolal revoluci občanských práv. Umělá inteligence musí pochopit, že morální volby nejsou vždy zřejmé. Některé hodnoty jsou prostě nesrovnatelné a nutí k obtížným rozhodnutím tam, kde není lepší volba.
Paradox mimo inteligenci
Někteří výzkumníci, jako je Joe Edelman z Institutu pro vyjednávání významu, se domnívají, že zajistit, aby umělá inteligence byla konzistentní, je možná, ale pouze pokud se naučí přiznat, když nezná odpověď. „Pokud přimějete [AI] pochopit, která rozhodnutí jsou obtížná, naučíte ji něco o morálce,“ říká. To ale znamená AI, která systematicky mlčí o kritických problémech.
Jiní, jako Eliezer Yudkowsky, tvrdí, že dodržování předpisů je technický problém, který je třeba vyřešit. Věří, že bychom měli vybudovat superinteligenci a nechat ji vládnout společnosti tím, že budeme rozhodovat na základě „koherentní extrapolované vůle“ – algoritmu čtení myšlenek, který extrapoluje, co by lidstvo chtělo, kdyby vědělo všechno.
Tento přístup vyvolává přízrak „tyranie většiny“, kdy jsou menšinové názory potlačovány všemocnou AI. Filozof Nick Bostrom varoval před budoucností, kde superinteligence utváří veškerý lidský život bez možnosti postihu.
Výběr je před námi
Obnovuje se prastará debata: Věříme vyšší moci, i když je umělá? Yudkowsky věří, že bychom měli vybudovat AI a nechat ji rozhodnout, i kdyby to znamenalo vzdát se kontroly. Ale mnozí nesouhlasí. Více než 130 000 výzkumných pracovníků a většina veřejnosti podporuje regulaci nebo dokonce zákaz.
Otázkou nakonec není jen vytvoření umělé inteligence, ale také to, jakou budoucnost chceme. Hledáme nástroj k rozšíření naší inteligence nebo boha, který by nahradil naši autonomii? Poučení z Talmudu zůstává jasné: ani božská autorita by neměla diktovat lidská rozhodnutí. Budoucnost umělé inteligence závisí na tom, zda si tuto lekci zapamatujeme.
Honba za super inteligencí není jen technologickým hledáním; toto je filozofická revize. Umělá inteligence, kterou vytvoříme, bude utvářet nejen náš svět, ale i samotný smysl lidské existence.
