Chatbot AI milik Elon Musk, Grok, tidak akan dapat mengedit foto untuk menggambarkan orang nyata mengenakan pakaian terbuka di tempat di mana hal itu ilegal, menurut sebuah pernyataan yang diposting di X.
Pengumuman pada Rabu malam itu menyusul reaksi balik global atas gambar-gambar seksualisasi perempuan dan anak-anak, termasuk pelarangan dan peringatan dari beberapa pemerintahan.
Dorongan balik itu termasuk penyelidikan yang diumumkan pada Rabu oleh negara bagian California mengenai penyebaran materi seksual eksplisit tanpa persetujuan yang diproduksi menggunakan Grok.
Awalnya, pertanyaan media tentang masalah ini hanya mendapat respons, "media lama berbohong".
Perusahaan Musk, xAI, kini menyatakan akan memblokir konten berdasarkan wilayah jika konten tersebut melanggar hukum di suatu tempat tertentu.
xAI mengatakan, "Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang nyata yang mengenakan pakaian terbuka seperti bikini, pakaian dalam, dan pakaian lain yang memperlihatkan tubuh."
Aturan itu berlaku untuk semua pengguna, termasuk pelanggan berbayar, yang memiliki akses ke lebih banyak fitur.
xAI juga telah membatasi pembuatan atau pengeditan gambar hanya untuk pelanggan berbayar "untuk memastikan bahwa individu yang mencoba menyalahgunakan akun Grok untuk melanggar hukum atau kebijakan kami dapat dimintai pertanggungjawaban."
Mode 'sensasional' Grok sempat memungkinkan pengguna membuat konten eksplisit, yang memicu kecaman dari pemerintah di seluruh dunia.
Malaysia dan Indonesia mengambil tindakan hukum dan memblokir akses ke Grok. Inggris dan Uni Eropa sedang menyelidiki potensi pelanggaran undang-undang keselamatan daring. Prancis dan India juga mengeluarkan peringatan, menuntut pengendalian yang lebih ketat. Brasil menyerukan penyelidikan terhadap penyalahgunaan Grok.
Pengumuman California mengatakan fungsi pengeditan Grok "memfasilitasi produksi skala besar gambar intim deepfake tanpa persetujuan yang digunakan untuk melecehkan wanita dan anak perempuan di seluruh internet, termasuk melalui platform media sosial X."
"Banjir laporan yang merinci materi seksual eksplisit tanpa persetujuan yang diproduksi dan diposting secara daring oleh xAI dalam beberapa minggu terakhir sungguh mengejutkan. Materi ini, yang menggambarkan wanita dan anak-anak dalam keadaan telanjang dan situasi seksual eksplisit, telah digunakan untuk melecehkan orang-orang di seluruh internet," kata Jaksa Agung negara bagian Rob Bonta, sebagaimana dikutip pengumuman itu.
"Kami tidak mentolerir pembuatan dan penyebaran berbasis AI atas gambar intim tanpa persetujuan atau materi pelecehan seksual terhadap anak-anak," tambahnya.
