Komisaris polisi dan kejahatan Surrey (PCC) telah menjadi subjek video deepfake sebagai bagian dari kampanye untuk memperingatkan orang-orang tentang penipuan semacam ini.
Lisa Townsend mengunggah sebuah video ke media sosial yang di dalamnya ia tampak mempromosikan sebuah skema keuangan yang membujuk para pengguna untuk mencari tahu bagaimana mereka dapat “mengamankan uang di rekening bank mereka”.
Gambar bergerak palsu Ibu Townsend menjelaskan cara mendaftar, sebelum PCC yang asli menjelaskan video tersebut sebenarnya dibuat menggunakan kecerdasan buatan (AI).
Ibu Townsend mengatakan dia ingin “menunjukkan betapa mudahnya bagi penipu untuk secara meyakinkan menyamar sebagai seseorang, terutama mereka yang menjadi sorotan publik”.
Deepfake menggunakan jenis teknologi yang disebut “pembelajaran mesin” untuk membuat versi digital seseorang.
Ini memetakan wajah dan gerakan mulut seseorang sehingga dapat menyalinnya.
Ibu Townsend berkata: “Kecerdasan buatan semakin canggih setiap harinya, dan meskipun tidak diragukan lagi dapat membawa manfaat besar bagi cara kita bekerja dan hidup, kecerdasan buatan juga dieksploitasi oleh para penjahat yang ingin mengincar keuntungan.”
“Hanya dibutuhkan tiga detik audio untuk mengkloning suara seseorang agar bisa dimanipulasi dan mengatakan apa pun yang diinginkan penjahat. Hasilnya mengerikan.”
Dengan penjualan Black Friday dan Natal yang semakin dekat, ia memperingatkan orang-orang untuk berhenti sejenak dan mempertanyakan semua yang mereka tonton, baca, atau dengar.