Nedávný případ obžalovaného v případu údajného žhářství a jeho rozhovory s chatbotem ChatGPT zdůrazňuje naléhavé právní dilema: jak chránit soukromí konverzací vedených se stále sofistikovanějšími umělými inteligencemi?
Jonathan Rinderknecht je obviněn v souvislosti s ničivým lesním požárem v Kalifornii. Prokurátoři tvrdí, že online interakce pana Rinderknechta s ChatGPT, včetně diskusí o pálení Bible a vytvoření dystopického obrazu ohně, ukázaly jeho úmysl založit oheň.
Ačkoli pan Rinderknecht trvá na své nevině, případ vyvolává znepokojivé otázky ohledně trestněprávních důsledků stále intimnějších rozhovorů se systémy umělé inteligence, jako je ChatGPT. Tyto programy jsou navrženy tak, aby napodobovaly lidský dialog – „naslouchají“, nabízejí rozumné odpovědi a dokonce ovlivňují myšlenky uživatelů. Mnoho lidí se obrací na tyto chatboty kvůli důvěrným diskusím o tématech, která jsou příliš citlivá nebo osobní, než aby mohli mluvit se skutečnými lidmi.
Tento rostoucí trend vyžaduje nový právní rámec na ochranu soukromí uživatelů při interakcích s umělou inteligencí. Právník Greg Mitchell z University of Virginia trefně vyjadřuje potřebu takové ochrany: „Pro fungování vztahu musí být důvěrnost naprosto nezbytná.“
Bez něj se uživatelé nevyhnutelně zapojí do autocenzury, která jim znemožní získat všechny výhody, které tyto technologie nabízejí při podpoře duševního zdraví, řešení právních a finančních problémů a dokonce i sebepoznání. Představte si, jaký to bude mít dopad na uživatele, který hledá útěchu u terapeuta umělé inteligence, pokud se bojí, že by jejich hluboce osobní odhalení mohla být u soudu použita proti němu.
V současné době současné právní doktríny, jako je doktrína třetí strany, zacházejí s informacemi poskytovanými online službám jako ze své podstaty konzistentní. Tento přístup nebere v úvahu jedinečnou povahu interakce s pokročilými systémy umělé inteligence, které stále více fungují jako proxy, nikoli pouze jako úložiště dat.
Proto je zapotřebí nový právní koncept – to, čemu říkám „privilegium interakce s umělou inteligencí“. To by bylo v souladu se stávající právní ochranou, jako je privilegium právníka-klienta nebo lékaře-pacienta, která chrání komunikaci s umělou inteligencí za účelem vyhledání rady nebo emocionální podpory.
Tato výsada však nebude absolutní. Mělo by obsahovat:
- Chráněné konverzace: Interakce s umělou inteligencí určené pro poradenství nebo emoční zpracování by měly být chráněny před vynuceným prozrazením u soudu, s výjimkou zvláštních okolností. Uživatelé mohou tuto ochranu aktivovat prostřednictvím nastavení aplikace nebo ji uplatnit v soudním sporu, pokud to kontext opravňuje.
-
Povinnost varovat: Stejně jako mají terapeuti povinnost hlásit předvídatelná nebezpečí, umělá inteligence by měla být ze zákona povinna zveřejňovat předvídatelná nebezpečí, která uživatelé představují pro sebe nebo pro ostatní.
-
Výjimka týkající se kriminality a podvodu: Komunikace související s plánováním nebo prováděním trestných činů zůstane otevřena soudnímu příkazu.
Aplikování tohoto rámce na případ Rinderknecht: Ačkoli jeho počáteční dotaz ohledně požárů způsobených umělou inteligencí není chráněn (jako vyhledávání na internetu), jeho přiznání o zničení Bible by mohlo být chráněno jako emocionálně významné a ne přímou známkou zločinného záměru v době zveřejnění.
Vytvoření privilegia interakce s umělou inteligencí je zásadní pro rozvoj důvěry v tuto rychle se vyvíjející technologii. To by vyslalo zprávu, že otevřené a upřímné rozhovory s umělou inteligencí jsou ceněny, což lidem umožňuje využít svůj potenciál k sebezdokonalování a řešení problémů bez obav z právních následků za to, že jsou zjevně digitálně reflektivní. Bez těchto záruk riskujeme potlačení samotných výhod těchto mocných nástrojů, takže občané budou v neklidu, i když budou svobodní přemýšlet v digitálním prostoru.
