Гонка вооружений в сфере дипфейков набирает обороты.
TikTok недавно намекнул, что начинает противодействие. Для некоторых создателей контента в США запускается опциональный инструмент обнаружения дипфейков. Он сканирует платформу на наличие несанкционированных AI-генераций вашего лица. Если вы увидите себя в неподходящем месте, теперь можно сообщить об этом напрямую через приложение.
Социальный медиа-эксперт Мэтт Наварра, известный своим вниманием к таким вещам, первым заметил тест. Представитель TikTok США Закари Кимер подтвердил новость. Но есть нюанс. Доступ пока не для всех — только для «некоторых» создателей в США. У YouTube уже есть аналогичный функционал, открытый для всех взрослых пользователей, кто хочет им воспользоваться.
Зачем подтверждать лицо для борьбы с дипфейками?
Звучит противоречиво, правда? Дать компании своё лицо, чтобы она могла предотвратить его использование другими.
Чтобы воспользоваться этим инструментом, нужно пройти несколько шагов. Первый — верификация. Для подтверждения личности требуется сервис Jumio. Это означает сканирование селфи в реальном времени. Затем вы сканируете удостоверение личности, выданное государством. Это строго. Это бюрократия. Но вот что важно: TikTok утверждает, что не хранит ваши документы. Данные о лице используются исключительно для сопоставления с возможными нарушениями.
TikTok не сохраняет документы личности. Информация о лице используется только для выявления несанкционированного использования.
Тем не менее, передача биометрических данных вызывает опасения у некоторых людей. Это компромисс. Приватность в обмен на защиту. Вы сами решаете, какой риск кажется вам более значимым.
Что происходит после верификации?
После того как доверие установлено, система запускается. Она начинает поиск. Система сканирует контент, который может быть сгенерирован AI с использованием вашего сходства. Она не просто ждёт, когда кто-то обвинит вас в подмене другого создателя. Она проактивно ищет потенциальные совпадения.
Затем вы видите, что она нашла. У вас есть последнее слово.
Если вы обнаружите пост, использующий ваше лицо без вашего разрешения, вы можете его отметить. TikTok затем рассматривает и принимает меры. Так замыкается круг. Ранее сообщения о таких случаях были хаотичным процессом. Теперь это встроенная часть рабочего процесса.
Что лучше для защиты цифровой идентичности: новая система сканирования TikTok или ручное сообщение? Для тех, кого затрагивали реалистичные фальшивые видео, это выглядит как более быстрый путь к решению проблемы.
Стоит ли ждать более широкого внедрения?
Процесс внедрения идёт медленно. Почему? Вероятно, чтобы провести тест
