Kominfo Beri Peringatan, Deepfake Makan Korban Kaum Melek Teknologi

ChatGPT viral di media sosial akibat kemampuan uniknya, seperti menyusun esai bak akademisi.


Jakarta, CNN Indonesia

Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria menceritakan bagaimana teknologi deepfake hasil kecerdasan buatan (AI) memakan korban. Menurutnya, seseorang yang cukup melek digital saja bisa terkecoh.

Dalam acara Diskusi Multi-Pemangku Kepentingan untuk Pengembangan Kerangka Etika Kecerdasan Artifisial di Jakarta pada Selasa (5/12), Nezar menyinggung soal konten deepfake Presiden Joko Widodo (Jokowi) yang beberapa waktu lalu sempat meramaikan jagat maya.

Deepfake mengacu pada hasil pengolahan AI baik berupa gambar, suara, atau video, yang amat menyerupai aslinya.


ADVERTISEMENT


SCROLL TO CONTINUE WITH CONTENT

Ia menyebut konten tersebut hampir berhasil mengecoh beberapa orang sekitarnya.

“Makin lama makin canggih. Banyak teman saya yang cukup digital savvy (melek digital, red) nyaris percaya pidato terjadi di Beijing sampai muncul penjelasan hasil karya deepfake,” ujar Nezar.

Pada Oktober 2023, beredar video Jokowi berbahasa Mandarin di media sosial X yang dahulu bernama Twitter. Video itu diunggah sejumlah akun dengan narasi Jokowi berpihak ke China. Video ini merupakan hasil suntingan menggunakan AI.

Nezar menjelaskan bagaimana AI berpotensi disalahgunakan untuk menyebarkan misinformasi seperti konten Jokowi tersebut.

Penggunaan AI, yang dalam hal ini menghasilkan deepfake, berpotensi memicu kekacauan informasi dan membuat publik kebingungan membedakan informasi benar atau tidak.

“Sedemikian mengancam generatif AI. Bisa memporak-porandakan arus informasi yang diterima,” katanya.

Selain misinformasi, ada beberapa risiko AI yang juga perlu dimitigasi. Hal ini membuat Nezar dan Kominfo menyusun Surat Edaran (SE) terkait etika pemanfaatan AI.

Terlebih, Indonesia saat ini sudah berada di masa pemilihan umum (pemilu) yang akan sangat terganggu jika ada penyalahgunaan AI seperti kasus deepfake Jokowi.

Surat Edaran terkait AI ini diharapkan bisa menjadi acuan bagi seluruh pihak, mulai dari pengembang hingga pengguna yang hendak memanfaatkan teknologi AI.

“Surat edaran etika kecerdasan artifisial ini akan segera dikeluarkan dalam rangka untuk tata kelola penggunaan kecerdasan artifisial di masyarakat, dan nantinya akan jadi panduan buat ekosistem pengembangan AI di Indonesia,” ujar dia.

“Jadi, pelaku usaha juga di situ, masyarakat biasa, dari desain, pengembangan sampai penggunaanya nanti bisa mengacu kepada surat edaran etika kecerdasan artifisial ini,” tuturnya.

[Gambas:Video CNN]

(lom/dmi)



Sumber: www.cnnindonesia.com