Video Palsu Sultan HB X Beredar di WhatsApp
Gubernur Daerah Istimewa Yogyakarta sekaligus Raja Keraton Yogyakarta, Sri Sultan Hamengku Buwono X, menjadi korban penyalahgunaan teknologi kecerdasan buatan (AI). Sebuah video yang diduga hasil rekayasa AI atau deepfake beredar luas melalui aplikasi WhatsApp. Pemda DIY mengungkapkan temuan ini melalui akun media sosial resmi pada Rabu (22/7) siang.
Penelusuran Berawal dari Laporan Putri Sultan
Pranata Humas Ahli Madya Dinas Komunikasi dan Informatika (Diskominfo) DIY, Ditya Nanaryo Aji, menjelaskan bahwa pihaknya melakukan penelusuran setelah menerima informasi dari GKR Condrokirono, putri Sultan HB X. Tim humas diminta memverifikasi apakah video tersebut pernah diproduksi oleh Pemda DIY. Diskominfo juga menelaah dugaan penggunaan teknologi AI dalam pembuatan konten tersebut.
"Hasil pengecekan kami menunjukkan bahwa video tersebut bukan berasal dari dokumentasi Humas Pemerintah Daerah DIY. Dari isi maupun cara penyampaiannya, kami memastikan itu merupakan video hasil rekayasa menggunakan AI," ujar Ditya, Rabu (22/7).
Ciri Khas Video Palsu: Narasi Pribadi yang Tak Pernah Disampaikan Sultan
Ditya melanjutkan, video tersebut berisi narasi yang menyentuh ranah pribadi seseorang, sesuatu yang selama ini tidak pernah disampaikan Sultan dalam komunikasi resmi maupun wawancara. Hal ini menjadi indikator kuat bahwa konten itu bukan pernyataan asli Sultan.
"Selama kami mendampingi kegiatan kehumasan, Ngarsa Dalem tidak pernah menyampaikan pernyataan yang masuk ke ranah pribadi seseorang seperti yang tergambar dalam video tersebut. Karena itu kami dapat memastikan bahwa konten tersebut bukan pernyataan beliau," tegas Ditya.
Modus Penipuan: Memanfaatkan Kemiripan Wajah dan Suara
Video palsu ini beredar melalui WhatsApp, bukan melalui kanal resmi Pemda DIY. Narasi yang dibangun mengarah pada dugaan modus penipuan dengan memanfaatkan kemiripan wajah dan suara hasil rekayasa AI. Dalam video, seolah-olah Sultan mengarahkan seseorang untuk melakukan pembayaran suatu barang sebelum barang tersebut dikirim, bahkan menyebut nama seseorang.
"Isi videonya seolah-olah mengarahkan seseorang agar melakukan pembayaran suatu barang sebelum barang tersebut dikirim. Bahkan di dalam video itu juga disebut nama seseorang. Hal seperti ini tentu tidak mungkin disampaikan oleh Ngarsa Dalem," jelasnya.
Fokus Pemda DIY: Literasi Digital, Bukan Langkah Hukum
Hingga saat ini, Pemda DIY belum membahas langkah hukum terkait temuan tersebut. Fokus utama yang dilakukan adalah meningkatkan literasi digital masyarakat agar mampu mengenali dan mengantisipasi penyalahgunaan AI yang berpotensi untuk penipuan atau penyebaran informasi palsu.
"Kami ingin masyarakat semakin memahami bahwa teknologi AI dapat disalahgunakan untuk membuat konten yang tampak meyakinkan. Karena itu, setiap menerima video atau informasi yang mengatasnamakan Pemda DIY maupun Bapak Gubernur, pastikan terlebih dahulu sumbernya sebelum mempercayai atau menyebarkannya," ujar Ditya.
