La carrera armamentista de los deepfake se está calentando.
TikTok acaba de dar una pista de que están contraatacando. Se está implementando una herramienta de detección de participación para algunos creadores estadounidenses. Busca imágenes de su rostro no autorizadas generadas por IA. Si te ves en un lugar donde no perteneces, finalmente puedes denunciarlo directamente a través de la aplicación.
Matt Navarra, un consultor de redes sociales con buen ojo para estas cosas, fue el primero en detectar la prueba. El portavoz de TikTok en Estados Unidos, Zachary Kimer, confirmó la noticia. Pero hay un problema. No es para todos, todavía no. Sólo “algunos” creadores estadounidenses tienen acceso por ahora. YouTube ya tiene una configuración similar, abierta a todos los usuarios adultos que la deseen.
¿Por qué verificar tu rostro para detectar deepfakes?
Suena contradictorio, ¿verdad? Dale tu cara a una empresa para que pueda impedir que la gente la use.
Tienes que pasar por obstáculos para usar la herramienta. Primero: verificación. Necesitas un servicio llamado Jumio para demostrar quién eres. Esto significa un escaneo de selfies en tiempo real. Luego, escanea una identificación emitida por el gobierno. Es estricto. Es burocrático. Pero aquí está la parte importante: TikTok afirma que no conservan sus documentos de identificación. Los datos faciales se mantienen estrictamente para comparar su imagen con posibles violaciones.
TikTok no retiene documentos de identificación. La información facial se utiliza únicamente para identificar el uso no autorizado.
Aún. La entrega de datos biométricos pone nerviosas a algunas personas. Es una compensación. Privacidad para protección. Tú decides qué riesgo te parece más grave.
¿Qué sucede realmente después de la verificación?
Una vez establecida la confianza, la maquinaria se pone en marcha. El sistema empieza a buscar. Busca contenido que pueda ser generado por IA a partir de su imagen. No basta con esperar a que alguien te acuse de hacerte pasar por otro creador. Encuentra de forma proactiva posibles coincidencias.
Luego verás lo que encontraron. Tú tienes la última palabra.
Si ves una publicación que usa tu cara de una manera que no autorizaste, la marcas. Luego TikTok revisa y actúa. Cierra el círculo. Antes, informar de estas cosas era un desastre. Ahora está integrado en el flujo de trabajo.
¿Qué es mejor para proteger tu identidad digital, el nuevo escaneo de TikTok o los informes manuales? Para aquellos que han sido blanco de falsificaciones de videos realistas, esto parece un camino más rápido hacia la resolución.
¿Deberías esperar a un lanzamiento más amplio?
El despliegue es lento. ¿Por qué? Probablemente para probar
