Perlombaan senjata deepfake semakin memanas.
TikTok baru saja memberikan isyarat bahwa mereka melawan. Alat deteksi keikutsertaan diluncurkan ke beberapa pembuat konten di AS. Ini memindai kemiripan wajah Anda yang tidak sah dan dihasilkan oleh AI. Jika Anda melihat diri Anda berada di tempat yang bukan milik Anda, Anda akhirnya dapat melaporkannya langsung melalui aplikasi.
Matt Navarra, seorang konsultan media sosial yang memperhatikan hal-hal ini, pertama kali melihat tes tersebut. Juru bicara TikTok AS Zachary Kimer membenarkan kabar tersebut. Tapi ada kendalanya. Ini bukan untuk semua orang, belum. Saat ini, hanya “beberapa” pembuat konten Amerika yang mendapatkan akses. YouTube sudah memiliki pengaturan serupa, terbuka untuk semua pengguna dewasa yang menginginkannya.
Mengapa memverifikasi wajah Anda untuk menangkap deepfake?
Kedengarannya berlawanan dengan intuisi, bukan? Berikan wajah Anda pada perusahaan sehingga mereka dapat menghentikan orang untuk menggunakannya.
Anda harus melewati rintangan untuk menggunakan alat ini. Pertama: verifikasi. Anda memerlukan layanan bernama Jumio untuk membuktikan siapa Anda. Ini berarti pemindaian selfie secara real-time. Kemudian, Anda memindai tanda pengenal yang dikeluarkan pemerintah. Ini sangat ketat. Itu birokratis. Namun inilah bagian pentingnya: TikTok mengklaim mereka tidak menyimpan dokumen ID Anda. Data wajah disimpan secara ketat untuk mencocokkan kemiripan Anda dengan potensi pelanggaran.
TikTok tidak menyimpan dokumen identitas. Info wajah hanya digunakan untuk mengidentifikasi penggunaan yang tidak sah.
Tetap. Menyerahkan data biometrik memang membuat sebagian orang ketar-ketir. Ini adalah trade-off. Privasi untuk perlindungan. Anda memutuskan risiko mana yang dirasa lebih berat.
Apa yang sebenarnya terjadi setelah verifikasi?
Setelah kepercayaan terbentuk, mesin mulai bekerja. Sistem mulai mencari. Ini memindai konten yang mungkin dihasilkan AI menggunakan kemiripan Anda. Anda tidak hanya menunggu seseorang menuduh Anda meniru pencipta lain. Ia secara proaktif menemukan potensi kecocokan.
Anda kemudian melihat apa yang mereka temukan. Anda memiliki keputusan akhir.
Jika Anda melihat postingan yang menggunakan wajah Anda dengan cara yang tidak Anda izinkan, tandai postingan tersebut. TikTok kemudian mengulas dan bertindak. Ini menutup lingkaran. Sebelumnya, pelaporan hal ini berantakan. Sekarang sudah terintegrasi ke dalam alur kerja.
Mana yang lebih baik untuk melindungi identitas digital Anda, pemindaian baru TikTok atau pelaporan manual? Bagi mereka yang menjadi sasaran pemalsuan video realistis, ini sepertinya merupakan jalan yang lebih cepat menuju penyelesaian.
Haruskah Anda menunggu rilis yang lebih luas?
Peluncurannya lambat. Mengapa? Mungkin untuk menguji
