Indonesia peringatkan AI Grok soal konten asusila libatkan anak

Pemerintah Indonesia meningkatkan tekanan terhadap platform media sosial X dan teknologi kecerdasan buatan Grok, menyusul kekhawatiran atas munculnya konten pornografi, termasuk deepfake seksual yang melibatkan anak di bawah umur dan perempuan tanpa persetujuan.

Kementerian Komunikasi dan Digital (Komdigi) menyatakan tengah melakukan penyelidikan atas dugaan penyalahgunaan Grok AI untuk memproduksi dan menyebarkan konten tidak bermoral. Peringatan keras disampaikan bahwa akses terhadap layanan Grok maupun platform X dapat dihentikan apabila ditemukan pelanggaran hukum dan sikap tidak kooperatif.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa hasil awal penelusuran pemerintah menunjukkan belum adanya aturan internal yang jelas dan memadai dalam Grok AI untuk mencegah pembuatan serta distribusi konten pornografi berbasis foto asli warga Indonesia.

“Temuan awal kami menunjukkan belum terdapat regulasi spesifik dalam Grok AI yang mampu mencegah teknologi ini digunakan untuk menciptakan dan menyebarkan konten pornografi berbasis foto pribadi. Kondisi ini berisiko menimbulkan pelanggaran serius terhadap hak privasi dan hak atas citra diri warga,” ujar Alexander dalam pernyataannya, pada Rabu.

Pelanggaran hak privasi

Komdigi juga menyatakan sedang berkoordinasi dengan para penyedia layanan digital untuk memperkuat sistem moderasi konten, mencegah pembuatan deepfake tidak bermoral, serta menyiapkan mekanisme penanganan laporan pelanggaran hak privasi dan hak atas citra diri secara cepat.

Peringatan Indonesia ini muncul di tengah meningkatnya sorotan global terhadap X dan Grok AI. Di Prancis, jaksa Paris dilaporkan telah membuka penyelidikan awal atas dugaan pembuatan gambar deepfake seksual anak di bawah umur oleh Grok. Sebelumnya, Komisi Eropa menyebut dugaan keluaran Grok yang melibatkan konten seksual anak sebagai sesuatu yang “mengerikan” dan “menjijikkan”.

Di Indonesia, tren perintah “remove clothes” kepada Grok dilaporkan memicu gelombang protes publik setelah gambar-gambar manipulatif non-konsensual menyebar luas di media sosial, bahkan menargetkan individu non-publik. 

Komdigi menegaskan bahwa sejak diberlakukannya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pembuatan dan penyebaran konten pornografi telah diatur secara tegas. Pasal 172 mendefinisikan pornografi sebagai media bermuatan kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara minimal enam bulan hingga maksimal 10 tahun atau denda sesuai ketentuan hukum.

Sementara itu, X yang dikembangkan oleh perusahaan xAI milik Elon Musk menyatakan akan mengambil tindakan terhadap konten ilegal, termasuk menghapus materi bermasalah, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah. Musk menegaskan bahwa penggunaan Grok untuk menghasilkan konten ilegal akan diperlakukan sama dengan unggahan ilegal lainnya.

Platform X diketahui memiliki basis pengguna besar di Indonesia, dengan jumlah mencapai sekitar 22,92 juta pengguna.