A corrida armamentista deepfake está esquentando.
O TikTok acaba de dar uma dica de que eles estão reagindo. Uma ferramenta de detecção opcional está sendo lançada para alguns criadores dos EUA. Ele verifica semelhanças não autorizadas do seu rosto geradas por IA. Se você se perceber onde não pertence, poderá finalmente denunciá-lo diretamente por meio do aplicativo.
Matt Navarra, um consultor de mídia social atento a essas coisas, foi o primeiro a detectar o teste. O porta-voz da TikTok nos EUA, Zachary Kimer, confirmou a notícia. Mas há um problema. Não é para todos, ainda não. Apenas “alguns” criadores dos EUA têm acesso por enquanto. O YouTube já tem uma configuração semelhante, aberta a todos os usuários adultos que desejarem.
Por que verificar seu rosto para capturar deepfakes?
Parece contra-intuitivo, certo? Dê a sua cara a uma empresa para que ela possa impedir as pessoas de usá-la.
Você tem que pular obstáculos para usar a ferramenta. Primeiro: verificação. Você precisa de um serviço chamado Jumio para provar quem você é. Isso significa uma verificação de selfie em tempo real. Em seguida, você escaneia um documento de identidade emitido pelo governo. É rigoroso. É burocrático. Mas aqui está a parte importante: o TikTok afirma que não guarda seus documentos de identificação. Os dados faciais permanecem estritamente para comparar sua imagem com possíveis violações.
O TikTok não retém documentos de identificação. As informações faciais são usadas apenas para identificar o uso não autorizado.
Ainda. Entregar dados biométricos deixa algumas pessoas nervosas. É uma troca. Privacidade para proteção. Você decide qual risco parece mais pesado.
O que realmente acontece após a verificação?
Uma vez estabelecida a confiança, o mecanismo entra em ação. O sistema começa a procurar. Ele procura conteúdo que possa ser gerado por IA usando sua imagem. Não espera apenas que alguém o acuse de se passar por outro criador. Ele encontra possíveis correspondências de forma proativa.
Você então vê o que eles encontraram. Você tem a palavra final.
Se você vir uma postagem usando seu rosto de uma forma que não autorizou, sinalize-a. O TikTok então analisa e age. Isso fecha o ciclo. Anteriormente, reportar essas coisas era uma bagunça. Agora está integrado ao fluxo de trabalho.
O que é melhor para proteger sua identidade digital, a nova verificação do TikTok ou o relatório manual? Para aqueles que foram alvo de falsificações de vídeos realistas, este parece ser um caminho mais rápido para a resolução.
Você deveria esperar por um lançamento mais amplo?
A implementação é lenta. Por que? Provavelmente para testar
