Berbagai negara mengembangkan peraturan penggunaan AI dan persenjataan otonom

Staf FORUM

Lebih dari 50 negara telah bergabung dengan Amerika Serikat dalam menetapkan pedoman untuk memastikan penggunaan sistem persenjataan otonom dan kecerdasan buatan (artificial intelligence – AI) mematuhi hukum internasional, demikian menurut seorang pejabat tinggi pertahanan A.S. Ketika peran AI menjadi lebih menonjol dalam pengembangan persenjataan dan aplikasi militer lainnya, para pemangku kepentingan mengembangkan peraturan untuk mengatur penggunaannya.

Michael C. Horowitz, wakil asisten menteri pertahanan A.S. untuk pengembangan pasukan dan kemampuan yang sedang berkembang, memberikan kabar terbaru mengenai upaya pengembangan AI yang dilakukan oleh Departemen Pertahanan (Department of Defense – DOD) selama pembicaraan virtual pada Januari 2024 yang diselenggarakan oleh Wadhwani Center for AI and Advanced Technologies di Center for Strategic and International Studies.

Pada November 2023, Departemen Luar Negeri A.S. menerbitkan Deklarasi Politik tentang Penggunaan Kecerdasan Buatan dan Otonomi yang Bertanggung Jawab oleh Militer, yang bertujuan untuk menetapkan norma penggunaan. Lima puluh satu negara telah mendukung deklarasi itu per Januari 2024, demikian ungkap Michael C. Horowitz, dan berbagai negara akan segera mulai bertemu untuk membangun konsensus seputar penggunaan teknologi yang sedang berkembang itu, termasuk praktik terbaik dan memungkinkan berbagai negara mitra untuk mengembangkan kemampuan mereka. Rusia dan Republik Rakyat Tiongkok (RRT) belum menandatangani deklarasi itu, demikian ungkap Michael C. Horowitz.

“Menurut saya, ada pengakuan bahwa jenis norma yang coba kami promosikan merupakan hal-hal yang seharusnya bisa diikuti oleh semua negara,” ungkapnya. “Kami menganggap norma ini sebagai tata kelola yang baik, sehingga berbagai negara dapat mengembangkan dan mengerahkan sistem militer yang didukung oleh kemampuan AI dengan aman, yang menjadi kepentingan semua orang.”

Pada Januari 2023 DOD memperbarui arahan penggunaan AI dalam sistem persenjataannya, yang menyerukan pengujian dan pengawasan ketat terhadap semua sistem persenjataan baru.

“Sistem persenjataan yang tidak aman, yang tidak dapat diprediksi, tidak dapat dioperasikan secara efektif. Tidak ada gunanya,” ungkap Michael C. Horowitz. “Dalam hal mengembangkan dan mengerahkan kemampuan yang dibutuhkan pasukan gabungan untuk mencegah terjadinya perang, dan jika diperlukan untuk meraih kemenangan semisal terjadi konflik, kita perlu memiliki kepercayaan pada sistem yang kita miliki.”

Arahan DOD juga menyerukan sistem yang memungkinkan komandan dan operator manusia mengendalikan penggunaan kekuatan, khususnya dalam kasus persenjataan nuklir, yang menurut Michael C. Horowitz mematuhi Tinjauan Postur Nuklir Departemen Pertahanan A.S.

“Menurut kami, keputusan untuk menggunakan persenjataan nuklir sangat penting sehingga menurut kami keterlibatan manusia seharusnya menjadi faktor utama,” ungkapnya. “Kami berharap negara-negara lainnya akan memiliki komitmen yang sama dan kami berharap mereka akan membuat komitmen itu secara eksplisit.”

DOD bekerja sama dengan negara-negara mitra sebagai bagian dari inisiatif replikatornya, proses yang melibatkan seluruh instansi untuk mempercepat penyampaian kemampuan inovatif kepada prajurit tempur. Unit Inovasi Pertahanan (Defense Innovation Unit – DIU) memimpin inisiatif itu, yang diumumkan pada November 2023, dengan fokus awal dalam melawan militer Partai Komunis Tiongkok dengan menggunakan sistem tanpa awak yang dapat dikerahkan dalam jumlah besar dan dibiarkan berada dalam bahaya selama terjadinya konflik mengingat biayanya yang relatif rendah. DIU dan mitra internasional juga menganalisis penggunaan sistem semacam itu dalam perang Rusia-Ukraina.

“Kami dulunya berpandangan bahwa Anda harus memilih di antara keunggulan presisi atau jumlah. Sekarang tidak lagi seperti itu,” ungkap Michael C. Horowitz. “Hal yang kita perlukan dalam banyak kasus adalah keunggulan presisi dan jumlah.”