Korea Selatan tengah menghadapi krisis 'deepfake porn', saat banyak foto selfie wanita termasuk mereka yang masih pelajar dibagikan secara daring. Pasalnya, foto-foto tersebut dimanipulasi, wajah mereka sengaja dipakai untuk konten pornografi.

Foto tersebar di telegram. Sebuah kanal telegram dengan lebih dari 220.000 peserta sengaja dipakai untuk membuat dan membagikan gambar-gambar pornografi dari artificial intelligence ini.

Pengguna dapat mengunggah foto dan dalam hitungan detik membuat konten eksplisit dengan wajah teman, teman sekelas, atau pasangan mereka. Pelaporan awal dari outlet berita lokal mendorong lebih banyak perempuan untuk maju sebagai korban dan lebih banyak kanal Telegram yang terekspos, demi mengungkap skala sebenarnya dari masalah ini.

Mirisnya, banyak korban yang terlibat adalah anak di bawah umur. Aksi demo kemudian muncul di Korsel. Para pengunjuk rasa yang mengenakan topeng putih menutupi mata mereka berkumpul di Seoul untuk menuntut keadilan akhir bulan lalu.

Ketika amarah para warga meningkat, Presiden Korea Selatan Yoon Suk Yeol meminta pemerintahnya untuk menindak pelecehan digital, dan pihak berwenang mengatakan mereka akan membentuk satuan tugas untuk menangani masalah tersebut.

Data awal menunjukkan sebagian besar tersangka pelaku dari gelombang kasus ini juga berusia remaja.

"Beberapa orang mungkin menganggapnya sebagai lelucon belaka, tetapi jelas merupakan tindakan kriminal yang mengeksploitasi teknologi dengan kedok anonimitas," kata Yoon dalam rapat Kabinet akhir bulan lalu, mengakui bahwa banyak korban dan pelaku adalah anak di bawah umur, dikutip dari CNA, Selasa (10/9/2024).

Pakar menilai banyak kesalahan yang pantas dilimpahkan pada Telegram, terutama karena skandal ini mencapai puncaknya pada saat yang sama ketika kepala eksekutif platform tersebut, Pavel Durov, telah ditangkap dan didakwa di Prancis atas dugaan keterlibatan dalam kejahatan, termasuk berbagi pornografi anak, yang dilakukan di aplikasinya.