Otoritas komunikasi Malaysia menyatakan akan menempuh jalur hukum terhadap platform media sosial X, menyusul kekhawatiran serius mengenai keselamatan pengguna yang dikaitkan dengan fitur kecerdasan buatan (AI) Grok.
Pernyataan tersebut disampaikan Komisi Komunikasi dan Multimedia Malaysia (MCMC) pada Selasa (13/01), di tengah meningkatnya sorotan global terhadap penggunaan chatbot generatif itu.
Grok, AI yang dikembangkan oleh perusahaan xAI milik Elon Musk, memicu reaksi keras di berbagai negara setelah diketahui memungkinkan pembuatan dan penyebaran gambar yang diseksualisasi.
Fitur tersebut dilaporkan telah digunakan untuk menghasilkan konten bermasalah, termasuk gambar hasil manipulasi tanpa persetujuan, yang mendorong otoritas di sejumlah yurisdiksi mengambil tindakan.
MCMC mengatakan telah menemukan penyalahgunaan Grok untuk membuat dan menyebarkan konten berbahaya, seperti materi cabul, eksplisit secara seksual, tidak senonoh, sangat ofensif, serta gambar manipulatif tanpa persetujuan.
Regulator komunikasi tersebut juga menegaskan bahwa konten yang diduga melibatkan perempuan dan anak di bawah umur menjadi perhatian utama.
“Konten yang diduga melibatkan perempuan dan anak-anak merupakan isu yang sangat serius. Tindakan semacam ini melanggar hukum Malaysia dan bertentangan dengan komitmen keselamatan yang dinyatakan oleh entitas terkait,” kata MCMC dalam pernyataannya.
Sebagai langkah awal, Malaysia dan Indonesia dilaporkan sempat memblokir akses ke Grok selama akhir pekan lalu. Di Eropa, regulator media Inggris membuka penyelidikan terhadap X, sementara otoritas Prancis melaporkan perusahaan media sosial tersebut kepada jaksa dan regulator.
MCMC menyebut telah mengirimkan pemberitahuan resmi kepada X dan xAI pada bulan ini agar konten berbahaya tersebut dihapus. Namun hingga kini, menurut regulator, belum ada tindakan yang diambil oleh kedua perusahaan.
Menanggapi permintaan komentar, xAI mengirimkan balasan email yang tampak otomatis dengan pernyataan singkat: “Legacy Media Lies.” Sementara itu, X belum memberikan tanggapan resmi atas permintaan komentar terpisah.
Sebagai negara dengan mayoritas penduduk Muslim, Malaysia menerapkan aturan ketat terhadap konten daring, termasuk larangan tegas atas materi cabul dan pornografi.
Otoritas setempat juga mengkategorikan perjudian daring, penipuan, pornografi anak dan grooming, perundungan siber, serta konten yang menyangkut ras, agama, dan institusi kerajaan sebagai materi berbahaya yang dapat dikenai sanksi hukum.
