Regulator media Inggris Ofcom pada Senin membuka penyelidikan resmi terhadap X milik Elon Musk, menyusul penggunaan fitur pembuatan gambar pada chatbot AI Grok yang dimanfaatkan untuk menghasilkan deepfake bernuansa seksual.
Grok menuai kecaman internasional karena memungkinkan pengguna membuat dan menyebarkan gambar seksual perempuan dan anak-anak hanya dengan perintah teks sederhana.
Ofcom menyebut laporan-laporan tersebut sebagai sesuatu yang “sangat mengkhawatirkan”.
Dalam pernyataannya, Ofcom mengatakan gambar orang tanpa busana “dapat dikategorikan sebagai penyalahgunaan gambar intim atau pornografi — sementara gambar anak-anak yang diseksualisasi… dapat tergolong sebagai materi pelecehan seksual terhadap anak”.
Saat dihubungi AFP, pihak X tidak memberikan tanggapan dalam waktu dekat.
Ofcom menyatakan telah menghubungi X pada 5 Januari lalu untuk meminta penjelasan mengenai langkah-langkah yang diambil perusahaan dalam melindungi pengguna di Inggris.
Tanpa merinci isi komunikasi tersebut, regulator menyebut X telah memberikan respons dalam tenggat waktu yang ditetapkan.
Penyelidikan formal ini akan menentukan apakah X “gagal memenuhi kewajiban hukumnya”.
Berdasarkan Undang-Undang Keamanan Online Inggris yang mulai berlaku pada Juli, situs web, media sosial, dan platform berbagi video yang memuat konten berpotensi berbahaya diwajibkan menerapkan verifikasi usia yang ketat, termasuk melalui teknologi pengenalan wajah atau pemeriksaan kartu kredit.
Undang-undang tersebut juga melarang situs media membuat atau menyebarkan gambar intim tanpa persetujuan maupun materi pelecehan seksual terhadap anak, termasuk deepfake seksual yang dibuat menggunakan AI.
Ofcom memiliki kewenangan menjatuhkan denda hingga 10 persen dari pendapatan global perusahaan yang melanggar aturan tersebut.
Grok sempat terlihat mencoba meredam kritik internasional dengan kebijakan monetisasi baru pada akhir pekan lalu, dengan mengumumkan di X bahwa fitur tersebut kini “dibatasi hanya untuk pelanggan berbayar”, disertai tautan langganan premium.
Perdana Menteri Inggris Keir Starmer mengecam langkah itu sebagai bentuk ketidakpedulian terhadap para korban dan menilai kebijakan tersebut “bukan solusi”.
Pada Sabtu, Indonesia menjadi negara pertama yang memblokir sepenuhnya akses terhadap alat tersebut, disusul Malaysia pada Minggu.
Komisi Eropa menyatakan tengah meninjau sejumlah pengaduan terkait Grok.
