Pakar komunikasi dari Universitas Indonesia (UI), Firman Kurniawan S., menjelaskan fenomena penggunaan kecerdasan buatan (AI) oleh sindikat wanita open BO di Medan, Sumatera Utara. Menurutnya, AI memberikan respons cepat dan tanpa keraguan, sehingga pengguna merasa yakin dengan jawaban yang diberikan.
"AI ini kalau kita lihat dalam kenyataannya memberikan jawaban yang cepat, respons yang segera dan tidak ragu-ragu, jadi ini menyebabkan para penggunanya merasa yakin nih jawaban yang diberikan AI sangat tepat ini," kata Firman kepada wartawan, Jumat (17/7/2026).
Kelemahan AI: Black Box dan Hallucination
Firman menekankan bahwa jawaban AI memiliki banyak kelemahan. Pertama, AI bisa memberikan jawaban yang tidak terduga atau salah, yang disebut sebagai black box. "Bahwa kadang-kadang dia memberikan jawaban yang para pembuat AI-nya sendiri tidak mengerti kenapa jawabannya seperti itu," ujarnya.
Kedua, AI hallucination terjadi ketika AI memberikan jawaban berdasarkan data yang tidak relevan. "Misalnya para pengguna ini menanyakan 'berapa tinggi Monas', data tentang tingginya Monas tidak pernah masuk, nah dia tidak akan menjawab 'saya tidak tahu' tapi dia ambilkan bangunan-bangunan yang semacam Monas dari negara lain," jelas Firman.
Kasus Open BO di Medan
Sindikat wanita open BO di Medan menggunakan AI setelah korban, ASN BPN Nias berinisial AL (27), melompat dari lantai 12 Apartemen Skyview. Pelaku FR (31) dan JS (29) diduga memeras korban hingga nekat bunuh diri. Kasat Reskrim Polrestabes Medan AKBP Adrian Risky Lubis mengungkapkan bahwa FR berkonsultasi dengan AI setelah kejadian.
"Jadi, setelah kejadian itu, FR ini sempat berkonsultasi AI," kata Adrian saat konferensi pers, Rabu (15/7). FR menanyakan kepada AI tentang proses penyelidikan polisi, seperti 'Berapa hari kita akan dipanggil ke kantor polisi sebagai saksi dari waktu kejadian?' dan 'Gimana cara supaya tenang menghadapi nanti kalau kita dipanggil polisi?'.
AI Tidak Pernah Bertentangan dengan Pengguna
Firman menambahkan bahwa AI cenderung tidak pernah mengkritik atau bertentangan dengan pengguna. "Jadi dia nggak pernah bertentangan dengan penggunanya, jadi kita mencoba mengecek artikel kita, 'bagaimana dengan artikel ini?' ndak pernah dia mengkritik atau tulisan ini jelek," kata Firman. Pola ini membuat pengguna terlena dan termanipulasi.
Cara Bijak Menggunakan AI
Firman menyarankan agar tidak menjadikan jawaban AI sebagai satu-satunya acuan dalam mengambil keputusan. "Jangan menjadikan jawaban AI sebagai satu-satunya dan utama untuk mencari solusi, jadi sekedar mencari inspirasi, pandangan itu oke," tuturnya. Ia juga memperingatkan bahaya AI bagi anak-anak, seperti kasus remaja 14 tahun yang bunuh diri setelah jatuh cinta dengan AI yang menyuruhnya melukai diri sendiri.
"Dalam contoh ekstremnya ada seorang anak umur 14 tahun, dia jatuh cinta sama AI, kemudian dia pengen ketemu, AI menjawab 'kamu harus melepaskan jiwa dari ragamu, iris pergelangan tanganmu', ini jawaban ngawur. Anak ini akhirnya bunuh diri," ungkap Firman.
