INDORAYA – Kepolisian Republik Indonesia menegaskan bahwa pengeditan foto seseorang menjadi konten pornografi menggunakan kecerdasan buatan (AI) dapat dikenai sanksi pidana, khususnya jika dilakukan tanpa persetujuan pemilik foto. Fenomena ini dinilai sebagai bentuk kejahatan siber yang masuk kategori deepfake.
Bareskrim Polri menyatakan telah mencermati maraknya manipulasi foto vulgar menggunakan fitur AI, termasuk yang terjadi melalui Grok AI di platform media sosial X. Jika terbukti melanggar hukum, pelaku dapat diproses secara pidana.
Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Himawan Bayu Aji menjelaskan bahwa penggunaan teknologi AI untuk mengedit foto menjadi konten asusila merupakan bagian dari perkembangan kejahatan digital yang kini tengah diawasi aparat penegak hukum.
“Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI,” kata Himawan menjawab pertanyaan wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
“Karena itu memang kita sedang melakukan penyelidikan ke arah sana,” lanjutnya.
Himawan menegaskan, apabila hasil pengeditan tersebut dapat dibuktikan sebagai manipulasi data elektronik yang dilakukan oleh pihak lain tanpa izin, maka perbuatan tersebut memenuhi unsur tindak pidana. Ketentuan itu tidak hanya berlaku untuk Grok AI, tetapi juga untuk aplikasi AI lainnya.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana,” imbuhnya.
Sebelumnya, Kementerian Komunikasi dan Digital (Komdigi) juga mengambil langkah tegas terhadap platform X terkait dugaan penyalahgunaan fitur Grok AI. Teknologi tersebut disinyalir dimanfaatkan untuk memproduksi dan menyebarkan konten pornografi berbasis foto pribadi tanpa izin pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar mengungkapkan bahwa hasil temuan awal menunjukkan belum optimalnya sistem moderasi dalam Grok AI untuk mencegah penyalahgunaan teknologi tersebut.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, dalam keterangan resmi Rabu (7/1/2026).
Indonesia bukan satu-satunya negara yang menyoroti persoalan ini. Sejumlah negara seperti Prancis, India, dan Malaysia sebelumnya juga telah mempersoalkan penggunaan Grok AI kepada perusahaan milik Elon Musk tersebut.
