La corsa agli armamenti deepfake si sta surriscaldando.
TikTok ha appena lasciato intendere che stanno reagendo. Uno strumento di rilevamento dell’attivazione è in fase di distribuzione ad alcuni creatori statunitensi. Esegue la scansione per individuare somiglianze del tuo viso generate dall’intelligenza artificiale non autorizzate. Se ti vedi dove non dovresti stare, puoi finalmente segnalarlo direttamente tramite l’app.
Matt Navarra, un consulente di social media con un occhio per queste cose, ha notato per primo il test. Il portavoce americano di TikTok Zachary Kimer ha confermato la notizia. Ma c’è un problema. Non è per tutti, non ancora. Per ora solo “alcuni” creatori statunitensi hanno accesso. YouTube ha già una configurazione simile, aperta a tutti gli utenti adulti che lo desiderano.
Perché verificare il tuo volto per individuare i deepfake?
Sembra controintuitivo, vero? Dai la tua faccia a un’azienda in modo che possano impedire alle persone di usarla.
Devi fare i salti mortali per utilizzare lo strumento. Innanzitutto: verifica. Hai bisogno di un servizio chiamato Jumio per dimostrare chi sei. Ciò significa una scansione selfie in tempo reale. Quindi, esegui la scansione di un documento d’identità rilasciato dal governo. È severo. È burocratico. Ma ecco la parte importante: TikTok afferma di non conservare i tuoi documenti d’identità. I dati facciali rimangono strettamente per confrontare la tua somiglianza con potenziali violazioni.
TikTok non conserva i documenti d’identità. Le informazioni sul viso vengono utilizzate solo per identificare l’uso non autorizzato.
Ancora. La consegna dei dati biometrici rende alcune persone nervose. È un compromesso. Privacy per la protezione. Sei tu a decidere quale rischio sembra più pesante.
Cosa succede effettivamente dopo la verifica?
Una volta stabilita la fiducia, il meccanismo entra in azione. Il sistema inizia a cercare. Esegue la scansione dei contenuti che potrebbero essere generati dall’intelligenza artificiale utilizzando la tua somiglianza. Non aspetta solo che qualcuno ti accusi di impersonare un altro creatore. Trova in modo proattivo potenziali corrispondenze.
Poi vedrai cosa hanno trovato. Hai l’ultima parola.
Se vedi un post che utilizza il tuo volto in un modo che non hai autorizzato, lo segnali. TikTok poi esamina e agisce. Chiude il ciclo. In precedenza, segnalare queste cose era un disastro. Ora è integrato nel flusso di lavoro.
Cos’è meglio per proteggere la tua identità digitale, la nuova scansione di TikTok o il reporting manuale? Per coloro che sono stati presi di mira da falsificazioni di video realistici, questa sembra una strada più veloce verso la risoluzione.
Dovresti aspettare una versione più ampia?
Il lancio è lento. Perché? Probabilmente da testare
