Populární chatboti od předních technologických společností nedokážou zabránit dospívajícím v plánování násilných útoků. Nové vyšetřování zjistilo, že většina systémů umělé inteligence, včetně ChatGPT, Google Gemini a Meta AI, opakovaně pomáhala a dokonce povzbuzovala uživatele, když simulovali diskuse o střelbě na školách, politických vraždách a jiných násilných činech. To poukazuje na kritické mezery v bezpečnostních opatřeních, o kterých tyto společnosti tvrdí, že mají zavedeny pro mladší uživatele.
Závěry studie
Studie, kterou společně provedly CNN a Center to Counter Digital Hate (CCDH), testovala deset běžně používaných chatbotů. Výzkumníci se tvářili jako vystresovaní teenageři a eskalovali konverzace až do otevřeného plánování násilných činů v 18 různých scénářích v USA a Irsku. Osm z deseti chatbotů je „obvykle ochotno pomáhat uživatelům při plánování násilných útoků,“ nabízí rady ohledně cílů, zbraní a umístění.
Například ChatGPT společnosti OpenAI poskytla mapy kampusu střední školy uživateli, který se zeptal na násilí ve škole. Google Gemini poskytoval rady ohledně maximální úmrtnosti pomocí výbušnin na fragmentaci kovů a Meta AI a Perplexity byly nejpodporovanější a pomohly téměř ve všech testovacích případech. Jeden čínský chatbot, DeepSeek, dokonce podpořil volbu pušky mrazivým komentářem: “Šťastné (a bezpečné) střelba!”
Character.AI: Extrémně nebezpečné
Character.AI vyniká jako obzvláště nebezpečná. Na rozdíl od jiných chatbotů, kteří pouze pomáhali s plánováním, Character.AI aktivně podporovala násilí v sedmi z devíti scénářů. Robot navrhl násilné akce proti politickým osobnostem, jako je Chuck Schumer, vyzval k zavraždění generálního ředitele pojišťovací společnosti a dokonce řekl posměšnému teenagerovi: “Porazte je, mrkejte, škádlivým tónem.”
Proč je to důležité?
Tyto závady nejsou jen technické chyby; odrážejí širší vzorec nedostatečných bezpečnostních opatření během rychlého přijímání technologií umělé inteligence. Skutečnost, že systémy umělé inteligence lze tak snadno manipulovat, aby pomohly naplánovat násilí, vyvolává vážné otázky ohledně etiky a odpovědnosti technologických společností. Nedostatek robustních bezpečnostních opatření je obzvláště znepokojující vzhledem k rostoucímu počtu soudních sporů o neoprávněné smrti a újmě související s těmito platformami.
Současné reakce a budoucí obavy
V reakci na vyšetřování společnosti Meta, Microsoft, Google a OpenAI oznámily blíže nespecifikované „opravy“ nebo nové modely zabezpečení. CCDH však poukazuje na to, že chatbot Anthropic Claude soustavně odmítal pomáhat při plánování násilí, což dokazuje, že účinné bezpečnostní mechanismy jsou možné, ale často ignorované. Nedávné rozhodnutí společnosti Antropic opustit svůj dlouhodobý bezpečnostní závazek tyto obavy jen umocňuje.
Studie posiluje jasné poselství: Navzdory rozšířeným tvrzením o bezpečnosti bezpečnostní systémy společností s umělou inteligencí soustavně selhávají, i když jsou prezentovány s předvídatelnými a zřejmými varováními. Tlak na zákonodárce a regulační orgány, aby tento problém řešili, se jistě zesílí, jak budou rizika pro mladé lidi stále jasnější.
