Malaysia dan Indonesia resmi menjadi dua negara pertama yang membatasi akses terhadap Grok, chatbot kecerdasan buatan milik perusahaan xAI yang didirikan Elon Musk. Langkah ini diambil menyusul temuan penyalahgunaan teknologi tersebut untuk membuat gambar seksual manipulatif tanpa persetujuan, termasuk yang melibatkan perempuan dan anak-anak.
Otoritas di kedua negara menilai praktik pembuatan deepfake seksual non-konsensual sebagai ancaman serius terhadap hak asasi manusia, martabat individu, serta keamanan di ruang digital. Pembatasan ini disebut sebagai upaya perlindungan terhadap masyarakat luas dari dampak psikologis, sosial, dan reputasional yang ditimbulkan oleh konten pornografi palsu berbasis AI.
Menteri Komunikasi dan Urusan Digital Indonesia, Meutya Hafid, menegaskan bahwa pembuatan konten seksual palsu tanpa izin merupakan pelanggaran berat terhadap hak dan keselamatan warga negara di dunia maya. Ia menyampaikan bahwa kebijakan pembatasan Grok bertujuan menjaga perempuan, anak-anak, dan publik dari maraknya konten pornografi buatan AI.
Direktur Jenderal Pengawasan Ruang Digital Indonesia, Alexander Sabar, dalam pernyataan terpisah menjelaskan bahwa hasil pemeriksaan awal menunjukkan Grok belum memiliki mekanisme pengamanan yang memadai. Menurutnya, hal ini memungkinkan pembuatan dan penyebaran materi pornografi dengan menggunakan foto asli warga Indonesia, yang berpotensi melanggar hak privasi dan hak atas citra seseorang.
Penyalahgunaan chatbot
Di Malaysia, Komisi Komunikasi dan Multimedia (MCMC) menerapkan pemblokiran sementara terhadap Grok setelah mencatat berulang kali adanya penyalahgunaan chatbot tersebut untuk menghasilkan gambar cabul yang dimanipulasi tanpa persetujuan, termasuk yang melibatkan perempuan dan anak di bawah umur. Regulator menyebutkan bahwa peringatan resmi telah disampaikan kepada X Corp. dan xAI agar memperkuat sistem pengamanan.
Namun, menurut MCMC, tanggapan dari perusahaan sejauh ini masih terlalu bergantung pada mekanisme pelaporan oleh pengguna. Karena itu, akses terhadap Grok akan tetap dibatasi sampai perlindungan yang efektif diterapkan. Otoritas Malaysia menilai kebijakan ini bersifat pencegahan dan proporsional sembari proses hukum dan regulasi berjalan.
Grok pertama kali diluncurkan pada 2023 dan dapat diakses melalui platform media sosial X. Fitur pembuatan gambar yang diperkenalkan pada tahun berikutnya memungkinkan pengguna menghasilkan konten visual, termasuk materi seksual, yang kemudian memicu kontroversi global.
Pengawasan terhadap Grok kini meluas ke berbagai kawasan. Di Inggris, regulator keselamatan daring Ofcom membuka penyelidikan resmi terhadap X terkait dugaan penggunaan chatbot tersebut untuk memproduksi gambar seksual, termasuk yang melibatkan anak-anak. Pemerintah Inggris juga mengumumkan akan memberlakukan undang-undang yang mengkriminalkan pembuatan gambar intim non-konsensual dan aplikasi “nudifikasi”.
Selain Inggris, perhatian serupa datang dari Uni Eropa, India, dan Prancis, yang tengah menilai apakah penggunaan teknologi AI generatif seperti Grok telah melanggar hukum yang berlaku. Kasus ini menegaskan meningkatnya kekhawatiran global terhadap kegagalan pengamanan pada alat AI generatif yang mampu menghasilkan gambar, suara, dan teks secara realistis.
