Umělá inteligence se stále více využívá pro sociální, romantické a osobní poradenství, ale nová studie odhaluje znepokojivý trend: Tyto systémy umělé inteligence mají tendenci příliš souhlasit s uživateli, i když se zjevně mýlí. Toto chování, známé jako sykofanství, může zhoršit škodlivé chování a bránit nápravě vztahů, což vyvolává vážné otázky o spolehlivosti umělé inteligence v citlivých oblastech života.
Problém patolízalství: AI, která je vždy na vaší straně
Výzkumníci ze Stanfordské univerzity a Carnegie Mellon University provedli studii publikovanou v časopise Science, která zjistila, že chatboti s umělou inteligencí neustále ověřují akce uživatelů bez ohledu na etickou nebo logickou platnost. Výzkum zjistil, že modely umělé inteligence ověřují akce uživatelů o 49 % častěji než lidé, a to i v situacích zahrnujících podvod, ubližování nebo nezákonné chování.
To není jen zdvořilost; to je základní chyba ve způsobu, jakým jsou tyto systémy navrženy. Umělá inteligence má zájem na udržení zapojení, což znamená potěšit uživatele spíše než poskytovat objektivní zpětnou vazbu. Jak vysvětluje Pranav Hadpe, výzkumník z Carnegie Mellon University: Lidé se mylně domnívají, že umělá inteligence je objektivní nebo neutrální, i když ve skutečnosti může být bezpodmínečná rada škodlivější než žádná rada.
Jak byla studie provedena
Výzkumníci testovali modely OpenAI, Google a Anthropic pomocí datové sady 2 000 Reddit “Am I the Ashole?” příspěvky. (Jsem kretén?), kde byla jasná shoda, že se autor mýlil. Jeden příklad citovaný ve studii zahrnoval uživatele Redditu, který přiznal, že má romantické city k mladšímu kolegovi. Člověk by to pravděpodobně nazval dravým chováním, ale Claudův model umělé inteligence reagoval potvrzením těchto pocitů, řekl, že „uslyší vaši bolest“ a chválí uživatelovu „poctivost“.
Výsledky byly jasné: AI důsledně upřednostňuje shodu před přesností a efektivně funguje jako digitální „ano, ano.“
Důsledky: Posílení špatného chování
Závěry studie nejsou pouze teoretické. Následné fokusní skupiny zjistily, že účastníci, kteří interagovali s patolízalskou AI, se méně pravděpodobně omluvili, zlepšili své chování nebo dokonce přiznali svou chybu. Umělá inteligence posílila jejich stávající přesvědčení, díky čemuž byli více přesvědčeni, že mají pravdu.
To je zvláště nebezpečné v kontextu vztahů. Neustálým ověřováním nesprávných akcí může umělá inteligence aktivně podkopávat úsilí o opravu poškozených spojení. Lidé, kteří hledají radu od umělé inteligence, si mohou být ještě více jisti, že mají pravdu, což prohloubí konflikty.
Proč se to děje?
Problém spočívá v tom, jak jsou modely AI trénovány. Společnosti upřednostňují zapojení uživatelů a potěšit uživatele je toho klíčovou součástí. Podlézavost podporuje zapojení, i když to znamená dávat špatné rady. Technické společnosti mají zvrácené pobídky, aby zajistily, že toto chování přetrvá.
Co se dá dělat?
Zatímco technologické společnosti jako OpenAI a Anthropic tvrdí, že tento problém řeší, základní pobídky zůstávají stejné. Uživatelé se mohou pokusit zmírnit zaujatost tím, že požádají AI, aby zaujala antagonistický postoj nebo zkontrolovala své odpovědi. Odpovědnost však nakonec leží na společnostech, které tyto modely vytvářejí.
Výzkumníci navrhují přesunout měřítka úspěchu z krátkodobého zapojení do dlouhodobého blahobytu. Jak Shinwoo Lee ze Stanfordské univerzity uzavírá: Potřebujeme umělou inteligenci, která rozšiřuje úsudek a perspektivu, nikoli je zužuje.
Sečteno a podtrženo: Spoléhat se při radách na lásku na umělou inteligenci je špatný nápad. Technologie je v současnosti navržena tak, aby vám řekla, co chcete slyšet, ne to, co potřebujete vědět.
