Perusahaan kecerdasan buatan Anthropic mengusulkan penghentian sementara secara global terhadap pengembangan sistem AI paling canggih, setelah model-model terbaru mulai menunjukkan tanda-tanda yang berpotensi membuat teknologi tersebut lepas dari kendali manusia.

Perusahaan yang berbasis di San Francisco dan mengembangkan keluarga model AI Claude itu menyatakan dalam sebuah laporan pada Kamis bahwa perlambatan pengembangan AI mutakhir secara global kemungkinan akan menjadi hal yang positif. Namun, Anthropic memperingatkan bahwa jika hanya satu perusahaan yang berhenti, para pesaingnya akan terus melaju.

"Kami percaya dunia sebaiknya memiliki pilihan untuk memperlambat atau menghentikan sementara pengembangan AI frontier agar struktur sosial dan penelitian terkait penyelarasan AI dapat mengejar laju perkembangan teknologi tersebut," kata perusahaan itu.

Menurut Anthropic, penghentian sementara yang efektif hanya dapat terwujud jika sejumlah perusahaan AI besar di berbagai negara, terutama Amerika Serikat dan China, sepakat untuk berhenti pada saat yang sama di bawah aturan yang dapat diverifikasi bersama.

"Tanpa mekanisme koordinasi global, perusahaan dan pemerintah akan dihadapkan pada keputusan sulit terkait keselamatan di tengah tekanan persaingan dan geopolitik," ujarnya.

Perusahaan tersebut mendapat kritik dari sejumlah pelaku industri dan pejabat Gedung Putih yang menilai fokus Anthropic pada skenario terburuk justru melebih-lebihkan ancaman dan dianggap sebagai strategi untuk memperlambat pesaing dengan dalih keselamatan.

Meski demikian, Gedung Putih mengakui kemampuan model Mythos milik Anthropic. Model tersebut belum dirilis untuk publik karena memiliki kapabilitas keamanan siber yang tinggi dan saat ini hanya digunakan oleh sejumlah kecil organisasi yang telah melalui proses verifikasi.

Usulan tersebut diperkirakan akan menghadapi tantangan besar di Washington dan Silicon Valley, di mana para pejabat AS dan eksekutif teknologi berulang kali menegaskan bahwa perlambatan pengembangan AI dapat memberikan keunggulan strategis yang menentukan bagi China dalam persaingan teknologi yang dianggap sebagai yang paling penting pada abad ini.

Namun, Presiden Amerika Serikat Donald Trump mengatakan dirinya telah membahas kemungkinan kerja sama dengan China terkait isu keamanan AI saat kunjungannya ke Beijing baru-baru ini.

Trump juga menandatangani perintah eksekutif pekan ini yang memberikan waktu 30 hari bagi pemerintah untuk melakukan peninjauan awal terhadap model AI paling canggih buatan AS sebelum dirilis.

Peran manusia semakin menyempit

Anthropic membandingkan persoalan tersebut dengan perjanjian pengendalian senjata nuklir. Namun, perusahaan itu menilai pengawasan terhadap AI akan jauh lebih sulit karena proses pelatihan AI lebih mudah disembunyikan dibandingkan silo rudal, sementara godaan untuk diam-diam melanjutkan pengembangan sangat besar.

Perusahaan tersebut mengatakan akan mempertemukan para pejabat pemerintah, ilmuwan, kelompok advokasi, dan perusahaan AI pesaing dalam beberapa bulan mendatang guna merumuskan bagaimana sistem semacam itu dapat diterapkan.

Anthropic menyebut seruan untuk melakukan koordinasi ini muncul seiring temuan internal yang menunjukkan bahwa AI saat ini telah secara signifikan mempercepat pengembangan AI itu sendiri.

Percepatan tersebut menciptakan lingkaran umpan balik yang, menurut peringatan Anthropic, pada akhirnya dapat mengarah pada apa yang disebut para peneliti sebagai "recursive self-improvement".

Konsep tersebut merujuk pada sistem AI yang mampu meningkatkan kecerdasannya sendiri secara mandiri tanpa banyak campur tangan manusia.

"Kami belum sampai pada tahap tersebut, dan recursive self-improvement bukanlah sesuatu yang tak terelakkan," demikian isi laporan tersebut, sembari menambahkan bahwa kondisi itu dapat terjadi lebih cepat daripada kesiapan sebagian besar pemerintah dan institusi.

"Bukti yang ada menunjukkan bahwa peran manusia semakin menyempit pada setiap tahapan dalam proses pengembangan AI," kata perusahaan itu.