Perusahaan AI Anthropic tolak permintaan Pentagon untuk melonggarkan pengamanan
Perusahaan menolak untuk menghapus perlindungan dari model AI-nya karena kekhawatiran tentang pengawasan dan senjata otonom.
Perusahaan kecerdasan buatan Anthropic mengatakan tidak akan mematuhi permintaan Departemen Pertahanan AS untuk melonggarkan pengamanan pada sistem AI-nya, dengan alasan kekhawatiran atas pengawasan massal dan senjata otonom.
Dalam sebuah pernyataan pada Kamis, CEO Dario Amodei mengatakan perusahaan menentang penggunaan model AI-nya, Claude, untuk “pengawasan domestik massal” atau “senjata otonom sepenuhnya”.
Ia mengatakan sistem AI tingkat lanjut tidak cukup andal untuk mengoperasikan senjata semacam itu tanpa pengawasan manusia dan membutuhkan pengamanan yang “belum ada saat ini”.
Ia juga mengatakan AI dapat mendukung keamanan nasional tetapi memperingatkan bahwa pengawasan berskala besar yang digerakkan oleh AI dapat menimbulkan risiko terhadap kebebasan sipil.
Anthropic dan Pentagon telah bernegosiasi selama beberapa minggu.
Pemerintahan Trump telah mengancam akan menggunakan Defense Production Act, yang memungkinkan pemerintah memaksa perusahaan untuk memprioritaskan kebutuhan pertahanan nasional, dan telah mempertimbangkan memberi label Anthropic sebagai “risiko rantai pasokan”. Penunjukan semacam itu akan mencegah kontraktor Departemen Pertahanan menggunakan perangkat lunak miliknya.
Axios melaporkan bahwa Pentagon telah memulai langkah menuju penunjukan itu dan meminta Boeing serta Lockheed Martin merinci ketergantungan mereka pada Claude.
Juru bicara Pentagon, Sean Parnell, membantah bahwa departemen berniat menggunakan AI untuk pengawasan ilegal atau senjata sepenuhnya otonom tanpa keterlibatan manusia.
Dalam sebuah unggahan di X, ia mengatakan Pentagon berusaha menggunakan model Anthropic untuk “semua tujuan yang sah” dan tidak akan membiarkan perusahaan swasta menentukan keputusan operasional.