Jakarta, CNBC Indonesia - Video deepfake kini banyak beredar, apalagi yang memuat wajah para tokoh penting seperti Hillary Clinton dan Joe Biden. Tak jarang foto palsu itu dilengkapi narasi yang menyimpang.

Video yang terlihat realistis itu dibuat oleh algoritma AI. Fenomena ini menjadi salah satu di antara ribuan kebohongan yang muncul di media sosial, mengaburkan fakta dan fiksi di dunia politik AS yang terpolarisasi.

Video semacam ini sudah ada selama beberapa tahun terakhir dan makin masif penggunaannya selama setahun terakhir karena banyak alat "AI generatif" baru seperti Midjourney. Platform tersebut memungkinkan pengguna membuat foto dan video palsu yang tampak meyakinkan.

-

-

"Akan sangat sulit bagi masyarakat untuk membedakan yang asli dan yang palsu. Anda bisa membayangkan bagaimana pendukung Trump atau pendukungBiden dapat menggunakan teknologi ini untuk membuat

lawan terlihat buruk," kata Darrell West, peneliti senior di Brookings, dikutip dari Reuters, Rabu (31/5/2023).

"Mungkin ada hal-hal yang terjadi tepat sebelum pemilihan, di mana tidak seorang pun memiliki kesempatan untuk menghapusnya."

Menurut laporan DeepMedia, penyebaran video deepfake bertambah 3 kali lipat pada tahun ini dibandingkan 2022 lalu. Sementara untuk audio deepfake bertambah 8 kali lipat.

Secara total, sekitar 500.000 video dan audio deepfake yang dibagikan di situs media sosial secara global pada tahun 2023, DeepMedia memperkirakan.

Masifnya konten deepfake dikarenakan teknologi AI kini makin bisa diakses secara luas. Sebelumnya, kloning audio bisa menghabiskan biaya US$10.000 untuk server dan biaya pelatihan AI.

Namun, kini ada banyak startup yang menawarkan harga lebih murah untuk membuat konten deepfake.

OpenAI, perusahaan yang telah mengubah industri AI dalam beberapa bulan terakhir dengan merilis ChatGPT, sedang bergulat dengan masalah ini.

CEO Sam Altman mengatakan kepada Kongres AS bulan ini bahwa integritas pemilu adalah "bidang perhatian yang signifikan" dan mendesak regulasi yang cepat di sektor ini.

Tidak seperti beberapa perusahaan rintisan yang lebih kecil, OpenAI telah mengambil langkah-langkah untuk membatasi penggunaan produknya dalam politik.

Namun, pagar pembatas ini tetap memiliki celah. Misalnya, OpenAI mengatakan melarang pembuat gambar DALL-E untuk memuat figur publik.

Memang ketika mencoba membuat gambar Trump dan Biden, permintaan itu diblokir dan muncul pesan yang mengatakan "tidak sesuai kebijakan konten kami. "

Namun, Reuters mampu membuat gambar setidaknya selusin politisi AS lainnya, termasuk mantan Wakil Presiden Mike Pence, yang juga menimbang pencalonan Gedung Putih untuk tahun 2024.

[-]

-

Jangan Percaya Kata Manis Cowok, Bisa Jadi ChatGPT yang Buat!
(fab/fab)