Недавний случай с обвиняемым по делу о предполагаемом поджоге и его беседами с чат-ботом ChatGPT высвечивает насущную юридическую дилемму: как защитить конфиденциальность разговоров, веденных с все более совершенными искусственными интеллектами?
Джонатан Риндеркнехт обвиняется в связи с разрушительным лесным пожаром в Калифорнии. Прокуроры утверждают, что онлайн-взаимодействия господина Риндеркнехта с ChatGPT, включая обсуждения о сожжении Библии и создание дистопического изображения с изображением пожара, свидетельствуют об его намерении разжечь огонь.
Хотя господин Риндеркнехт заявляет о своей непричастности, этот случай поднимает тревожные вопросы об уголовно-правовых последствиях все более интимных бесед с AI системами, такими как ChatGPT. Эти программы созданы для имитации человеческого диалога — они «слушают», предлагают обоснованные ответы и даже влияют на мысли пользователей. Многие люди обращаются к этим чат-ботам за конфиденциальными обсуждениями тем, слишком чувствительными или личными для разговоров с настоящими людьми.
Эта растущая тенденция требует нового правового ढangka для защиты конфиденциальности пользователей в сфере взаимодействия с ИИ. Юрист Грег Митчелл из Университета Вирджинии метко выражает необходимость такой защиты: «Конфиденциальность должна быть абсолютно необходимой для функционирования отношений».
Без нее пользователи неизбежно будут заниматься самоцензурой, что помешает получению всех преимуществ, которые эти технологии предлагают для поддержки психического здоровья, решения юридических и финансовых проблем, а также даже для самопознания. Представьте себе эффект, оказываемый на пользователя, который ищет утешения у ИИ-терапевта, если он будет бояться, что его глубоко личные откровения могут быть использованы против него в суде.
В настоящее время действующие правовые доктрины, такие как Доктрина третьей стороны, рассматривают информацию, переданную онлайн-сервисам, как само по себе непротиворечивую. Этот подход не учитывает уникальный характер взаимодействия с продвинутыми AI системами, которые все чаще действуют как доверенные лица, а не просто хранилища данных.
Поэтому требуется новый правовой концепт — то, что я называю «привилегией взаимодействия с ИИ». Это будет соответствовать существующим юридическим защитам, таким как конфиденциальность адвокат-клиент или врач-пациент, защищая коммуникации с ИИ для целей получения консультаций или эмоциональной поддержки.
Однако это привилегия не будет абсолютной. Она должна включать:
- Защищенные беседы: Взаимодействия с ИИ, предназначенные для консультирования или эмоциональной обработки, должны быть защищены от принудительного раскрытия в суде, за исключением особых обстоятельств. Пользователи могли бы активировать эту защиту через настройки приложения или заявить о ней в судебном процессе, если контекст этого требует.
-
Обязанность предупреждать: Подобно тому, как терапевты обязаны сообщать об обозримой угрозе, ИИ должны быть юридически обязаны раскрывать предсказуемые опасности, создаваемые пользователями для себя или других.
-
Исключение «Преступление и мошенничество»: Коммуникации, связанные с планированием или исполнением преступных действий, останутся открытыми для получения по распоряжению суда.
Применение этой системы к делу Риндеркнехта: Хотя его первоначальный запрос о пожарах, вызванных ИИ, не подпадает под защиту (подобно поиску в Интернете), его признания об уничтожении Библии могли бы быть защищены как эмоционально значимые и не являющиеся прямым указанием на преступное намерение на момент раскрытия.
Установление привилегии взаимодействия с ИИ крайне важно для развития доверия к этой быстро развивающейся технологии. Это будет сигналом о том, что открытые и честные беседы с ИИ ценятся, позволяя людям использовать их потенциал для самосовершенствования и решения проблем без страха юридических последствий за откровенную цифровую рефлексию. Без таких гарантий мы рискуем подавлять сами преимущества этих мощных инструментов, оставляя граждан в тревоге даже при свободной мысли в цифровом пространстве.
