Setiap hari tentera Amerika Syarikat mempercayai senjata paling berkuasa di dunia kepada ratusan ribu anggota perkhidmatan yang berpangkalan di seluruh dunia, kebanyakan mereka berusia di bawah 30 tahun. Tentera mengurangkan potensi risiko semua teknologi berkuasa ini yang dikerahkan secara global dalam tangan pengguna muda dan sering kali belum berpengalaman melalui pendekatan tiga prong: mereka mengawal selia teknologi, pengguna dan unit mereka.
Bergantung kepada tugas, anggota perkhidmatan diperlukan untuk menyempurnakan kursus, pembelajaran dan ujian lisan dengan berjaya sebelum diberi kuasa untuk memandu kapal, menembak senjata, atau dalam beberapa kes, melaksanakan tugas-tugas penyelenggaraan. Setiap kelayakan mencerminkan betapa kompleks teknologinya, berapa maut ia mungkin menjadi, dan berapa banyak kuasa pengguna akan diberikan untuk membuat keputusan. Selain itu, dengan mengetahui bahawa walaupun orang yang layak juga boleh menjadi letih, bosan, atau tertekan, tentera mempunyai sistem sandaran prosedur operasi piawai (SOP) dan senarai semak yang memastikan tingkah laku yang konsisten dan selamat-sesuatu pakar bedah, contohnya, telah meniru.
Pengurangan risiko dalam tentera tidak terhad kepada individu sahaja tetapi juga merangkumi unit. “Carrier quals”, contohnya, tidak hanya untuk juruterbang individu. Mereka juga perlu diperoleh melalui demonstrasi bersama kapal terbang induk dan sayap udara (kumpulan juruterbang) yang ditugaskan. Kelayakan unit menekankan kerja berpasukan, tanggungjawab kolektif dan fungsi bersepadu pelbagai peranan dalam konteks khusus. Ini memastikan setiap ahli pasukan tidak sahaja mahir dalam tugas mereka sendiri tetapi juga memahami sepenuhnya tanggungjawab mereka dalam konteks yang lebih besar.
Akhir sekali, untuk melengkapi kelayakan dan senarai semak, tentera memisahkan dan menjelaskan kuasa kepada individu yang berbeza bergantung kepada tugas dan tahap tanggungjawab atau senioriti individu. Contohnya, pegawai perang laut dengan kuasa pembebasan senjata masih perlu meminta kebenaran daripada kapal untuk melancarkan jenis senjata tertentu. Ini memastikan bahawa individu dengan kuasa yang betul dan kesedaran mempunyai peluang untuk menangani kategori risiko khas-seperti yang mungkin meningkatkan konflik atau mengurangkan stok senjata yang sangat penting.
Strategi tentera ini untuk menangani risiko harus memberi inspirasi perbualan tentang bagaimana untuk mengawal selia AI kerana kita telah melihat pendekatan serupa berfungsi untuk komuniti bukan tentera lain. Kelayakan, SOP dan kuasa yang dibezakan sudah menjadi pelengkap kepada peraturan teknikal dan kejuruteraan dalam sektor seperti kesihatan, kewangan dan penguatkuasaan undang-undang. Walaupun tentera mempunyai keupayaan unik untuk menguatkuasakan rejim kelayakan sedemikian, rangka kerja ini juga boleh digunakan secara berkesan dalam sektor awam. Penggunaannya boleh didorong dengan menunjukkan nilai perniagaan alat sedemikian, melalui pengawalseliaan kerajaan, atau dengan memanfaatkan insentif ekonomi.
Kelebihan utama rejim kelayakan adalah untuk menghadkan akses kepada sistem AI yang mungkin membahayakan hanya kepada pengguna yang dilatih dan diluluskan. Proses kelayakan membantu mengurangkan risiko pelaku buruk, seperti mereka yang akan menggunakannya untuk menghasilkan teks atau video yang menyamar tokoh awam atau bahkan untuk mengekori atau mengganggu warga awam persendirian. Latihan membantu mengurangkan risiko bahawa orang bermotivasi baik tetapi tidak sepenuhnya memahami teknologi ini akan menggunakannya bukan seperti yang dimaksudkan, seperti peguam yang menggunakan ChatGPT untuk menyediakan kertas undang-undang.
Untuk meningkatkan lagi pertanggungjawaban pengguna individu, kelayakan tertentu, contohnya mereka bentuk agen biologi, boleh memerlukan pengguna mempunyai pengenal pasti unik, serupa dengan nombor pengenal penyedia kebangsaan atau nombor lesen pemandu. Ini akan membolehkan organisasi profesional, mahkamah dan penguatkuasaan undang-undang mengesan dan menangani contoh penyalahgunaan AI dengan berkesan, menambah mekanisme pertanggungjawaban yang sistem undang-undang kita faham dengan baik.
Memperkuat kelayakan individu dengan kelayakan organisasi boleh membuat pengawasan yang lebih kukuh, berlapis. Ini menguatkan bahawa keselamatan AI bukan hanya tanggungjawab individu tetapi juga organisasi. Pendekatan kelayakan ini juga akan menyokong pembangunan tanggungjawab yang dibezakan yang akan mengehadkan keputusan yang sangat berakibat kepada mereka yang tidak hanya layak tetapi juga diberi kuasa khusus, serupa dengan cara Suruhanjaya Sekuriti dan Bursa (SEC) mengawal selia siapa yang boleh terlibat dalam operasi perdagangan berfrekuensi tinggi. Dengan kata lain, tidak cukup bagi pengguna untuk sekadar mengetahui bagaimana menggunakan AI; mereka juga perlu mengetahui bila adalah wajar untuk berbuat demikian dan di bawah kuasa siapa.
Kelayakan dan senarai semak juga boleh memberi manfaat sampingan. Reka bentuk, pentadbiran dan pemantauan mereka akan mencipta pekerjaan. Kerajaan kebangsaan serta negeri boleh menjadi agensi kelayakan, persatuan profesional boleh menjadi pemimpin dalam penyelidikan keselamatan dan piawaian yang menyertainya. Bahkan syarikat AI juga mungkin mendapat manfaat ekonomi dengan menyokong program latihan kelayakan untuk sistem individu mereka.
Idea untuk melaksanakan atau memperuntukkan sistem kelayakan atau pelesenan untuk penggunaan AI membawa satu set peluang dan cabaran yang menarik tetapi kompleks. Rangka kerja ini boleh meningkatkan keselamatan dan pertanggungjawaban secara mendalam tetapi terdapat halangan dan kemungkinan kelemahan juga, yang pertama mungkin adalah untuk mencipta halangan untuk mengakses alat ini dan medan praktisian yang kurang pelbagai. Rejim kelayakan juga datang dengan beban birokrasi dan terdapat risiko bahawa bidang kuasa yang berbeza akan mencipta kelayakan berbeza yang tidak perlu mengganggu inovasi dan pasaran AI global yang cekap. Dan tentu saja, kelayakan mungkin hanya menyulitkan, bukan semestinya mencegah pelaku jahat yang berhasrat membahayakan.
Kelemahan ini perlu diambil kira dalam konteks. Tanpa pendekatan berfikiran matang terhadap kelayakan, kita terpaksa bergantung sepenuhnya kepada pengawalseliaan pendekatan kejuruteraan-satu proses yang juga terikat birokrasi, lambat dan tidak pernah mencukupi sendiri.
Walaupun manfaat sistem pelesenan atau kelayakan mungkin besar dari segi meningkatkan keselamatan dan tanggungjawab, cabaran logistik, etika dan praktikalnya memerlukan pertimbangan teliti. Pertimbangan itu tidak boleh menangguhkan tindakan terhadap rejim kelayakan, bagaimanapun, kerana teknologi ini merebak dengan cepat.
Kerajaan dan masyarakat profesional boleh memulakan sekarang untuk menubuhkan atau hanya menunjuk agen dipercayai untuk sektor keutamaan atau aplikasi dan memberi mereka tugas pertama: mengumpul dan menganalisis insiden kerosakan AI. Pangkalan data mengenai insiden AI atau laporan kemalangan kenderaan autonomi membantu organisasi pengawalseliaan memahami risiko lebih baik ketika mereka membangunkan rejim latihan dan kelayakan.
Di luar langkah pertama mendokumentasikan kerosakan, agensi pengawalseliaan perlu memulakan mekanisme kelayakan ujian dan berkongsi pelajaran yang diperoleh untuk penambahbaikan berterusan. Ujian berbilang boleh dijalankan di pelbagai tempat dan pasaran untuk mempelajari secara serentak dan membantu menilai kos dan manfaat dari pendekatan pengawalseliaan yang berbeza. Bersama ini, kita perlu terus membangunkan inisiatif pendidikan untuk meningkatkan literasi AI dalam masyarakat.