8 Kasus Deepfake di Indonesia: Prabowo hingga Grok

Kasus deepfake di Indonesia terus bertambah sejak 2023. Contohnya video Jokowi berbahasa Mandarin, video AI Soeharto untuk kampanye, penipuan memakai wajah Presiden Prabowo dan Gubernur Khofifah, serta video palsu Sri Mulyani. Di sektor keuangan, pelaku juga memakai foto deepfake untuk membobol verifikasi KYC pengajuan pinjaman.

Daftar Kasus Deepfake di Indonesia

Tabel berikut merangkum kasus deepfake yang paling banyak mendapat sorotan, dari yang terbaru:

Waktu	Kasus	Jenis	Perkembangan
Januari 2026	Penyalahgunaan Grok AI untuk gambar seksual palsu	Konten seksual non-konsensual	Komdigi memblokir sementara Grok
Agustus 2025	Sri Mulyani seolah menyebut guru beban negara	Disinformasi	Kemenkeu dan Sri Mulyani membantah
April 2025	Gubernur Khofifah seolah menjual motor Rp500 ribu	Penipuan	3 pelaku tertangkap di Pangandaran
Februari 2025	Video Presiden Prabowo membagikan bantuan	Penipuan	Pelaku JS tertangkap di Pringsewu, Lampung
Januari 2025	Prabowo, Gibran, dan Sri Mulyani seolah menawarkan bantuan	Penipuan	Pelaku AMA tertangkap di Lampung Tengah
Agustus 2024	Foto deepfake untuk lolos KYC pengajuan pinjaman	Penipuan identitas	Lebih dari 1.100 percobaan terdeteksi
Januari 2024	Video AI Soeharto mengajak memilih partai	Kampanye politik	Menuai kritik publik
Oktober 2023	Jokowi seolah berpidato dalam bahasa Mandarin	Disinformasi	Kominfo menyatakan video itu manipulasi

Kasus Deepfake Grok AI (Januari 2026)

Komdigi memutus sementara akses ke Grok, chatbot AI milik xAI, pada 10 Januari 2026. Alasannya, banyak pengguna memakai fitur edit gambar Grok untuk mengubah foto warga, terutama perempuan, menjadi gambar seksual palsu. Menurut Reuters, Indonesia menjadi negara pertama yang menutup akses ke alat AI tersebut, lalu Malaysia menyusul sehari kemudian.

Kemudian, pihak X berjanji menyesuaikan sistemnya. Namun, pada 22 Januari 2026 Komdigi menegaskan blokir tetap berlaku selama fitur yang bisa memanipulasi foto menjadi konten vulgar masih ada. Pembahasan lengkapnya ada di artikel kasus Grok.

Video Deepfake Sri Mulyani (Agustus 2025)

Pada pertengahan Agustus 2025, beredar video yang seolah menampilkan Menteri Keuangan Sri Mulyani menyebut guru sebagai beban negara. Kemenkeu kemudian menyatakan video itu hasil deepfake sekaligus potongan tidak utuh dari pidatonya di ITB pada 7 Agustus 2025. Dalam pidato aslinya, Sri Mulyani membahas tantangan gaji guru dan dosen, tanpa kalimat tersebut.

Kasus ini juga menunjukkan sisi lain deepfake. Pelaku tidak meminta uang, tetapi tujuannya merusak kepercayaan publik pada pejabat dan kebijakan.

Penipuan Deepfake Gubernur Khofifah (April 2025)

Pertama kali, Dinas Kominfo Jawa Timur melaporkan kasus ini pada 14 April 2025. Video palsu di TikTok menampilkan Gubernur Khofifah Indar Parawansa seolah menjual sepeda motor seharga Rp500 ribu khusus untuk warga Jawa Timur. Selain Khofifah, pelaku juga mencatut Gubernur Jawa Tengah dan Gubernur Jawa Barat dengan modus serupa.

Polisi kemudian menangkap tiga pelaku di Pangandaran, Jawa Barat. Menurut Polda Jatim, sekitar 100 orang menjadi korban, dan para pelaku meraup sekitar Rp87 juta. Ketiganya juga membagi peran: membuat video, mengunggah ke TikTok, dan melayani korban lewat WhatsApp.

Penipuan Deepfake Presiden Prabowo (Januari dan Februari 2025)

Awal 2025, video palsu Presiden Prabowo Subianto beredar di media sosial. Dalam video itu, Prabowo seolah menjanjikan bantuan uang untuk setiap keluarga. Pelaku lalu mengarahkan korban ke nomor WhatsApp dan meminta mereka mentransfer biaya administrasi antara Rp250 ribu dan Rp1 juta.

Kemudian, Bareskrim menangkap pelaku berinisial AMA di Lampung Tengah pada 16 Januari 2025. Menurut polisi, ada 11 korban di 5 provinsi, dengan keuntungan pelaku sekitar Rp30 juta. Video yang ia pakai juga mencatut Wakil Presiden Gibran dan Menteri Keuangan Sri Mulyani. Penyidik menjeratnya dengan Pasal 51 ayat (1) jo. Pasal 35 UU ITE, yang saat itu mengancam penjara 12 tahun dan denda Rp12 miliar. Sejak 2 Januari 2026, UU Nomor 1 Tahun 2026 menyesuaikan denda maksimal pasal ini menjadi Rp5 miliar.

Sebulan kemudian, Bareskrim kembali menangkap pelaku lain berinisial JS di Pringsewu, Lampung. Menurut polisi, korban JS tersebar di 20 provinsi dengan jumlah lebih dari 100 orang, dan ia meraup sekitar Rp65 juta. Ia bahkan mengunduh video dari akun lain dengan kata kunci “Prabowo Giveaway”.

Deepfake Membobol KYC Lembaga Keuangan (2024)

Namun, deepfake tidak hanya menyasar masyarakat umum. Pada akhir Agustus 2024, sebuah lembaga keuangan Indonesia melaporkan insiden deepfake di aplikasi mobilenya kepada perusahaan keamanan siber Group-IB. Hasilnya, investigasi itu menemukan lebih dari 1.100 percobaan memakai foto deepfake untuk lolos dari proses KYC digital saat pengajuan pinjaman.

Yang mengkhawatirkan, lembaga itu sebetulnya sudah memakai face recognition, liveness detection, dan perlindungan anti-emulator. Menurut Group-IB, pelaku mengambil foto KTP korban dari malware, media sosial, atau dark web, lalu mengubah pakaian dan gaya rambut di foto tersebut. Selain itu, menurut Crowe Indonesia, pelaku memakai kamera virtual untuk menyuntikkan foto palsu seolah berasal dari kamera asli.

Video AI Soeharto untuk Kampanye (Januari 2024)

Menjelang Pemilu 2024, Wakil Ketua Umum Partai Golkar Erwin Aksa mengunggah video buatan AI yang menampilkan mendiang Presiden Soeharto. Dalam video itu, Soeharto seolah mengajak masyarakat memilih calon dari Golkar. Erwin menyebut video itu sebagai pengingat pentingnya memilih, tetapi banyak warganet mengkritiknya karena memakai sosok yang sudah meninggal untuk kampanye.

Video Deepfake Jokowi Berbahasa Mandarin (Oktober 2023)

Pada Oktober 2023, beredar video Presiden Joko Widodo yang seolah berpidato dengan lancar dalam bahasa Mandarin. Pada 26 Oktober 2023, Kominfo menyatakan video itu konten menyesatkan hasil suntingan yang kemungkinan memakai deepfake. Rekaman aslinya ternyata berasal dari pidato Jokowi pada 2015, dan dalam rekaman itu ia tidak berbahasa Mandarin.

Saat itu, Indonesia sedang memasuki masa kampanye Pemilu 2024. Karena itu, kasus ini menjadi peringatan awal bahwa deepfake bisa memengaruhi opini publik di tengah suasana politik yang sensitif.

Pola yang Berulang dalam Kasus Deepfake

Jika kita bandingkan, kasus-kasus di atas ternyata punya beberapa kesamaan:

• Memakai wajah yang publik percaya. Presiden, menteri, dan gubernur paling sering menjadi sasaran, terutama dalam modus bantuan palsu.
• Menawarkan sesuatu yang terlalu bagus. Bantuan uang tunai atau motor seharga Rp500 ribu memancing korban bertindak cepat.
• Meminta biaya di muka. Pelaku menagih “biaya administrasi” yang korban transfer ke rekening pribadi.
• Menyebar lewat media sosial. TikTok, Instagram, dan WhatsApp menjadi jalur utama.
• Menyerang proses verifikasi. Khususnya di sektor keuangan, pelaku memakai foto sintetis dan kamera virtual untuk menipu sistem pengenalan wajah.

Penjelasan cara kerja teknologinya ada di artikel deepfake adalah.

Cara Melindungi Diri dan Bisnis dari Deepfake

Untuk Individu

• Cek kanal resmi tokoh atau instansi sebelum memercayai video berisi tawaran.
• Jangan pernah mentransfer uang untuk mencairkan bantuan.
• Waspadai panggilan video dari kerabat yang meminta uang mendesak, lalu konfirmasi lewat nomor lain.
• Laporkan konten mencurigakan ke kanal aduan Komdigi atau patroli siber Polri.

Tips menghadapi modus panggilan video kami bahas di artikel video call deepfake.

Untuk Bisnis

Kasus KYC tahun 2024 menunjukkan bahwa face recognition dan liveness saja belum cukup bila pelaku bisa menyuntikkan gambar palsu. Karena itu, bisnis perlu lapisan tambahan, yaitu liveness detection yang tahan terhadap serangan injeksi, deteksi kamera virtual dan emulator, serta analisis gambar untuk mengenali manipulasi AI.

Sementara itu, untuk lapisan terakhir, deepfake detection Verihubs memeriksa foto wajah untuk menemukan tanda pembuatan atau rekayasa oleh AI. Dengan begitu, tim risiko bisa menahan pengajuan mencurigakan sebelum akun aktif.

Pertanyaan Umum tentang Kasus Deepfake di Indonesia

Apa saja contoh kasus deepfake di Indonesia?

Contohnya video Jokowi berbahasa Mandarin (2023), video AI Soeharto untuk kampanye (2024), penipuan memakai video palsu Presiden Prabowo dan Gubernur Khofifah (2025), video palsu Sri Mulyani (2025), serta pemblokiran Grok karena konten seksual palsu (2026).

Seperti apa kasus deepfake Prabowo?

Pelaku menyebarkan video palsu Presiden Prabowo yang seolah menjanjikan bantuan uang, lalu meminta korban mentransfer biaya administrasi. Bareskrim menangkap pelaku AMA pada Januari 2025 dan pelaku JS pada Februari 2025.

Apakah pelaku deepfake di Indonesia sudah ada yang ditangkap?

Sudah. Misalnya, Bareskrim menangkap AMA dan JS dalam kasus video palsu Presiden Prabowo, sedangkan Polda Jawa Timur menangkap tiga pelaku dalam kasus video palsu Gubernur Khofifah.

Bagaimana deepfake bisa membobol KYC?

Pelaku memakai foto KTP curian, mengubahnya dengan AI, lalu menyuntikkan foto itu lewat kamera virtual agar sistem mengira gambar berasal dari kamera asli. Dalam satu kasus di Indonesia pada 2024, Group-IB menemukan lebih dari 1.100 percobaan seperti ini.

Ke mana melaporkan video deepfake?

Masyarakat bisa melaporkan konten deepfake ke kanal aduan konten Komdigi atau ke patroli siber Polri. Jika sudah menjadi korban penipuan, segera laporkan juga ke bank dan kantor polisi terdekat.

Deepfake Akan Terus Bertambah

Bahkan, kasus-kasus di atas hanyalah yang terungkap ke publik. Karena alat AI kini makin mudah orang pakai, jumlahnya hampir pasti terus bertambah.

Jadi, bagi bisnis, pelajaran terpentingnya adalah memeriksa apakah calon nasabah benar-benar hadir saat verifikasi. Konsultasikan lapisan anti-deepfake Anda dengan tim Verihubs.