Jejantas Keselamatan AI Senjata Pemusnah Massa

(SeaPRwire) –   Pada tahun 2023, bekas pemeriksa senjata PBB dan saintis Rocco Casagrande tiba di Bangunan Pejabat Eksekutif Eisenhower, di sebelah West Wing Gedung Putih, membawa sebuah bekas kecil yang disegel. Di dalamnya terdapat sedozen tabung uji yang mengandungi bahan-bahan yang, jika disusun dengan betul, boleh menyebabkan wabak yang mematikan. 

Menurut Casagrande, chatbot AI bukan sahaja telah memberinya resipi maut; ia juga menawarkan idea tentang cara memilih keadaan cuaca terbaik dan sasaran untuk serangan. Berada di sana untuk memberitahu pegawai kerajaan tentang risiko wabak yang didorong oleh AI, prop Casagrande telah menghantar yang kuat kepada pegawai keselamatan tentang betapa cepatnya AI telah meruntuhkan halangan untuk merekabentuk yang memusnahkan .

Halangan untuk merekabentuk wabak telah diturunkan, dan pembuat dasar telah . mencadangkan langkah pertahanan, dan menjadikan pertahanan kimia dan biologi sebagai keutamaan.

Kemungkinan didorong oleh kedua-dua kebimbangan sebenar dan risiko liabiliti undang-undang, syarikat AI frontier juga telah menunjukkan kepimpinan, yang dituangkan dalam di Sidang Kemuncak Seoul. Syarikat-syarikat ini telah membuat komitmen secara terbuka untuk mengurangkan risiko merentas spektrum kimia, biologi, radiologi, nuklear, dan bahan letupan (CBRNe).

Namun, walaupun ada langkah-langkah ini, jurang keselamatan yang membimbangkan masih wujud. Walaupun bagus bahawa syarikat-syarikat memfokuskan pada wabak, ekosistem terlalu memfokuskan pada model “pengganas virus serigala tunggal” sebagai ancaman paling serius. Perhatian yang jauh lebih kurang diberikan kepada semua senario risiko yang lain. Fokus pada aktor individu menyebabkan ancaman berasaskan negara dan kumpulan pengganas tidak diteliti dengan sepenuhnya, yang membahayakan.

Tambahan pula, risiko virus wabak bukanlah proksi yang mencukupi untuk ancaman lain. Langkah teknikal untuk membangunkan bahan letupan improvisasi, agen biologi yang tidak boleh dihantar, dan senjata kimia adalah berbeza daripada yang biologi boleh dihantar. Membina dan menggunakan senjata kimia seperti Sarin, sebagai contoh, berbanding virus, melibatkan set langkah teknikal yang sama sekali berbeza. Atas sebab ini, kita memerlukan ujian keselamatan AI yang berbeza.

Namun, secara sendirian, ancaman “kurang serius” ini masih boleh membunuh ramai, memusnahkan komuniti, dan menanam huru-hara di seluruh negara. Kita berada dalam bahaya mencipta sistem keselamatan yang tertumpu pada melindungi daripada wabak seterusnya sementara meninggalkan pintu terbuka luas kepada bentuk keganasan yang lain.

Yang membimbangkan, kita telah melihat makmal AI utama pada komitmen keselamatan, mungkin sebahagiannya kerana mereka kekurangan data klasifikasi untuk memenuhinya. Contohnya, walaupun sesetengah syarikat AI menerbitkan ujian tentang sama ada model mereka boleh membantu menyebabkan wabak, mereka tidak memperincikan sama ada model yang sama boleh membantu dalam serangan kimia atau bahan letupan improvisasi.

Pengabaian ini membahayakan. AI tingkat tinggi bukan sahaja boleh membantu individu membina senjata; ia juga boleh membantu mereka mengelak kawalan eksport dan menyembunyikan jejak mereka, membolehkan sesiapa sahaja mengelak panduan antarabangsa tanpa dikesan. Paling penting, ini mencipta titik buta yang menyebabkan kita semua terdedah kepada wabak yang kita paling takuti. Aktor yang tidak patuh yang meneroka penggunaan AI untuk serangan kimia atau letupan hari ini mungkin sedang mengulangi latihan untuk serangan biologi esok. 

Jika sistem keselamatan kita direka untuk hanya menyala merah untuk kejatuhan dunia, kita akan terlepas isyarat amaran yang membawa kepada ia.

Kita memerlukan kategori risiko yang lebih luas, yang diperolehi daripada pakar. Penyeimbangan asas diperlukan untuk menangani ancaman yang didorong oleh AI yang lebih mungkin, bukan sahaja yang paling dahsyat. Syarikat frontier dan komuniti institusi yang menasihatinya tidak boleh menyelesaikan ini sendirian—mereka kekurangan intelijen klasifikasi untuk memberikan pemahaman yang lebih jelas tentang ancaman berasaskan negara dan bukan negara, serta mekanisme kerajaan dan hubungan antarabangsa yang diperlukan untuk mencipta undang-undang, struktur, dan perkongsian yang diperlukan untuk menangani cabaran ini. Sebaliknya, kerajaan kekurangan pemahaman penuh tentang keupayaan AI dan pengetahuan proprietari, serta data tingkah laku pengguna yang mencurigakan yang penting. Kesunyian yang membimbangkan terhasil daripada silo ini.

Perkongsian awam-swasta harus direka untuk keselamatan negara. Perkongsian seperti ini akan menggabungkan intelijen klasifikasi negara dengan data proprietari firma teknologi dan pihak ketiga, membawa bersama-sama kakitangan yang disahkan silang untuk mengenal pasti ancaman yang tidak boleh dilihat oleh mana-mana pihak sendirian. Ini akan memerlukan tahap inovasi yang melampaui apa yang pernah dicuba sebelum ini, tetapi faedahnya akan sangat besar.

Sesungguhnya, sejarah mengajar kita bahawa diplomasi dan dasar boleh menyelamatkan nyawa. Kira-kira separuh abad yang lalu, pemimpin dunia menghadiri dan menandatangani perjanjian pelucutan senjata yang melarang pembangunan senjata biologi dan toksin. Dan tahun lepas adalah ulang tahun ke-100 , yang melarang penggunaan senjata kimia dan biologi dalam konflik bersenjata antarabangsa. Kedua-duanya mewakili perjanjian kolektif tentang ketidakmanusiaan asas menggunakan senjata ini dan tanggungjawab bersama kita untuk memastikan ia dicegah

Seratus tahun yang lalu, mereka yang memahami potensi memusnahkan teknologi baru menyedari keperluan untuk mengambil tindakan yang tekun merentas semua ancaman yang dapat diramal.

Di zaman yang sama sekali berbeza, kita memerlukan tekad yang sama lagi—dan kita memerlukannya sebelum terlalu lewat.