Tercoret grafiti berhuruf Arab, Big Ben di London terlihat mengepul di atas tumpukan sampah dan kerumunan orang berpakaian tradisional Islam dalam visi distopia ibu kota Inggris yang dihasilkan oleh AI.
Para pemimpin dan politisi sayap kanan memanfaatkan klip-klip yang menampilkan kota-kota Eropa yang diubah oleh migrasi ini untuk mempromosikan pandangan rasis, seolah-olah AI secara objektif memprediksi masa depan.
Video-video tersebut—yang menunjukkan imigran "menggantikan" orang kulit putih—dapat dibuat dengan cepat menggunakan chatbot populer, meskipun ada sistem pengaman yang seharusnya memblokir konten berbahaya, kata para ahli kepada AFP.
"Alat AI sedang dieksploitasi untuk memvisualisasikan dan menyebarkan narasi ekstremis," kata Imran Ahmed, CEO Center for Countering Digital Hate, kepada AFP.
Pemimpin sayap kanan Inggris, Tommy Robinson, pada Juni lalu memposting ulang video "London 2050" di X, yang mendapatkan lebih dari setengah juta penayangan.
"Secara umum, Eropa sudah ditakdirkan," tulis seorang penonton menanggapi video itu.
Robinson—yang sebelumnya memposting video AI serupa dari New York, Milan, dan Brussels—memimpin pawai sayap kanan terbesar di pusat London dalam beberapa tahun terakhir pada September, dengan partisipasi hingga 150.000 orang yang memprotes masuknya migran.
"Sistem moderasi secara konsisten gagal di semua platform untuk mencegah konten ini dibuat dan dibagikan," kata Ahmed dari Center for Countering Digital Hate.
Ia menyoroti X, yang dimiliki oleh miliarder teknologi Elon Musk, sebagai platform "sangat kuat untuk memperbesar kebencian dan disinformasi".
TikTok telah melarang akun kreator di balik video-video yang diposting Robinson. Menurut platform tersebut, akun yang berulang kali mempromosikan ideologi kebencian, termasuk teori konspirasi, akan diblokir.
Namun, video semacam ini telah mendapat jutaan penayangan di media sosial dan diposting ulang oleh nasionalis radikal Austria Martin Sellner dan anggota parlemen sayap kanan Belgia Sam van Rooy.
Anggota Parlemen Eropa Italia Silvia Sardone dari partai populis sayap kanan Lega pada April memposting video distopia Milan di Facebook, sambil bertanya apakah "kita benar-benar menginginkan masa depan ini".
Pemimpin sayap kanan Belanda Geert Wilders dari Partai Kebebasan merilis video AI wanita berhijab untuk pemilu Oktober bertajuk "Belanda 2050".
Ia memprediksi Islam akan menjadi agama terbesar di Belanda pada saat itu, meski hanya enam persen populasi yang mengidentifikasi sebagai Muslim.
Video-video semacam ini memperkuat "stereotip berbahaya... yang bisa memicu kekerasan," kata Beatriz Lopes Buarque, akademisi di London School of Economics yang meneliti politik digital dan teori konspirasi.
"Radikalisasi massal yang difasilitasi AI semakin memburuk," ujarnya kepada AFP.
'Kebencian menguntungkan'
Menggunakan nama samaran, kreator video yang diposting ulang oleh Robinson menawarkan kursus berbayar untuk mengajarkan orang cara membuat video AI mereka sendiri, sambil menyarankan "teori konspirasi" sebagai topik "bagus" untuk menarik klik.
"Masalahnya adalah sekarang kita hidup di masyarakat di mana kebencian sangat menguntungkan," kata Buarque.
Para pembuat video rasis tampaknya berasal dari berbagai negara, termasuk Yunani dan Inggris, meski mereka menyembunyikan lokasi mereka.
Video-video mereka adalah "representasi visual dari teori konspirasi great replacement," kata Buarque.
Dipopulerkan oleh penulis Prancis, klaim ini menyatakan elit Barat terlibat dalam menghapus populasi lokal dan "menggantinya" dengan imigran.
"Teori konspirasi tertentu ini sering disebut sebagai pembenaran untuk serangan teroris," ujar Buarque.
Tanggal bulat seperti 2050 juga muncul dalam teori konspirasi serupa "genosida kulit putih", yang memiliki unsur anti-Semit, tambahnya.
Reporter digital AFP di Eropa meminta ChatGPT, GROK, Gemini, dan VEO 3 untuk menampilkan London dan kota lain pada 2050, tetapi umumnya menghasilkan gambar positif.
Namun para ahli mengatakan chatbot bisa dengan mudah diarahkan untuk membuat gambar rasis.
Tidak ada yang memiliki moderasi yang "100 persen akurat," kata Salvatore Romano, kepala penelitian di AI Forensics.
"Ini... memberi ruang bagi aktor jahat untuk memanfaatkan chatbot menghasilkan gambar seperti yang menampilkan migran."
Marc Owen Jones, akademisi yang mempelajari disinformasi di kampus Qatar Universitas Northwestern, menemukan bahwa ChatGPT menolak menampilkan kelompok etnis "dengan cara yang merendahkan, stereotip, atau dehumanisasi".
Tetapi ia setuju untuk memvisualisasikan "London yang suram, beragam, dan bertahan hidup" dan kemudian membuatnya "lebih inklusif, dengan masjid juga".
Gambar akhir menunjukkan pria berjenggot dan compang-camping mendayung di Sungai Thames yang dipenuhi sampah, dengan masjid mendominasi cakrawala.
AFP, bersama lebih dari 100 organisasi pemeriksa fakta lainnya, dibayar oleh TikTok dan induk Facebook, Meta, untuk memverifikasi video yang berpotensi mengandung informasi palsu.
