Meta mengumumkan Rabu (Nov. 8) bahawa ia akan memerlukan label untuk iklan politik yang telah diubah suai secara digital, menggunakan AI atau teknologi lain, cara yang mungkin mengelirukan.
Pengumuman itu datang sehari selepas Microsoft mengumumkan ia juga mengambil beberapa langkah untuk melindungi pilihan raya, termasuk menawarkan alat untuk melabelkan kandungan yang dijana AI dan melaksanakan “Pasukan Kejayaan Kempen” untuk memberi nasihat kepada kempen politik tentang AI, keselamatan siber, dan isu-isu yang berkaitan.
Tahun depan akan menjadi tahun pilihan raya paling penting sejak abad ini, dengan AS, India, UK, Mexico, Indonesia dan Taiwan semuanya akan ke pilihan raya. Walaupun banyak yang bimbang tentang impak deepfakes dan penyelewengan maklumat boleh memberi kesan ke atas pilihan raya, ramai pakar menekankan bukti untuk kesan mereka ke atas pilihan raya sehingga kini adalah terhad pada yang terbaik. Pakar menyambut langkah-langkah yang diambil oleh syarikat teknologi untuk mempertahankan integriti pilihan raya tetapi mengatakan perubahan asas kepada sistem politik akan diperlukan untuk menangani penyelewengan maklumat.
Bagaimana AI boleh memberi kesan ke atas pilihan raya
Syarikat teknologi telah datang di bawah skrutininya selepas peranan mereka dalam pilihan raya sebelum ini. Satu laporan yang diterbitkan pada 2021 oleh kumpulan penyokong dalam talian Avaaz mendapati bahawa dengan menunggu sehingga bulan sebelum pilihan raya presiden AS 2020 untuk mengubah algoritmanya, Meta membenarkan penyelewengan maklumat menyebar di platformnya. Meta juga dikritik kerana mempromosikan kandungan yang mempersoalkan kesahan pilihan raya Brazil 2022 dan kerana memperkuat kandungan yang mungkin telah menyumbang kepada pelanggaran hak asasi manusia dilakukan terhadap kumpulan etnik Rohingya di Myanmar.
Dalam beberapa tahun kebelakangan ini, pembangunan AI telah maju dengan pesat. AI generatif—yang membenarkan pengguna menjana teks, audio, dan video—muncul dari ketidakkenalpastian dengan pelancaran ChatGPT Terbuka AI pada November 2022.
AI generatif sudah digunakan beberapa kali dalam iklan politik AS, walaupun dalam setiap kes ia difahami bahawa AI telah digunakan. Pada April, Parti Republikan melancarkan iklan AI-dijana bertujuan untuk menunjukkan apa yang mungkin berlaku jika Presiden Joe Biden terpilih semula. Pada Jun, akaun kempen X untuk Ron DeSantis, gabenor Republikan Florida dan calon presiden, memaparkan video yang mengandungi imej AI-dijana Donald Trump memeluk Dr. Anthony Fauci.
Walau bagaimanapun, kajian secara konsisten mendapati bahawa penyelewengan maklumat tidak secara bermakna mengubah hasil pilihan raya AS sebelum ini, kata Andreas Jungherr, profesor sains politik di Universiti Bamberg di Jerman, yang mencatat bahawa akademik dari disiplin lain, seperti kajian media dan psikologi cenderung memberi lebih keyakinan kepada kesan penyelewengan maklumat ke atas pilihan raya.
Contohnya, satu kertas yang diterbitkan dalam Nature pada 2023 mendapati “tiada bukti hubungan bermakna antara pendedahan kepada kempen pengaruh asing Rusia [pada 2016] dan perubahan sikap, polarisasi, atau tingkah laku mengundi.”
Sering kali orang melebih-lebihkan kesan penyelewengan maklumat kerana mereka melebih-lebihkan kedua-dua betapa mudahnya untuk mengubah pandangan orang tentang isu-isu berkobar seperti tingkah laku mengundi dan betapa berdaya teknologi seperti AI untuk membenarkan penyelewengan maklumat, kata Jungherr.
Walaupun peluang bahawa satu keping penyelewengan maklumat AI-dijana boleh mempengaruhi pendapat awam cukup untuk mengubah hasil pilihan raya sangat rendah, AI masih boleh memberi kesan buruk ke atas pilihan raya dan politik secara lebih luas di masa hadapan, kata Elizabeth Seger, seorang penyelidik di Pusat Tadbir Urus AI, sebuah organisasi penyelidikan berpangkalan di UK. Pada masa hadapan, sasaran yang sangat peribadi yang dibantu oleh AI bersama dengan agen AI yang sangat meyakinkan boleh digunakan untuk menjalankan kempen meyakinkan besar-besaran. Dan pada 2024, kewujudan deepfakes sahaja boleh merosakkan kepercayaan orang terhadap sumber maklumat utama, kata Seger.
Ini sudah berlaku. Pada 2019, dakwaan bahawa video Ali Bongo, ketika itu presiden Gabon, adalah palsu digunakan untuk membenarkan rampasan kuasa cubaan. Kemudian pada tahun itu, impak video disyaki seorang menteri kabinet Malaysia terlibat dalam tindakan seks dengan pembantu politik dineutralkan oleh dakwaan bahawa video itu diubah suai oleh AI.
“Risiko yang kerap terlepas pandang, yang jauh lebih mungkin berlaku dalam kitaran pilihan raya ini, bukanlah bahawa AI generatif akan digunakan untuk menghasilkan deepfakes yang menipu orang untuk berfikir calon ini atau itu melakukan sesuatu perkara yang teruk,” kata Seger. “Tetapi bahawa kewujudan teknologi ini digunakan untuk menggugat nilai bukti dan menggugat kepercayaan terhadap saluran maklumat utama.”
Perlindungan pilihan raya
Sehingga kini kerajaan telah mengambil langkah terhad kecil untuk mengurangkan impak AI ke atas pilihan raya. Di AS, satu rang undang-undang diperkenalkan ke Kongres pada Mei yang akan memerlukan iklan politik yang menggunakan imej atau video AI-dijana membawa pengakuan. Pada Ogos, Suruhanjaya Pilihan Raya Persekutuan meminta maklum balas sama ada ia harus meminda peraturan yang melarang iklan politik daripada menyelewengkan calon-calon lain atau pihak politik untuk memasukkan AI yang sengaja mengelirukan, tetapi belum mengambil tindakan.
Syarikat teknologi, berwaspada terhadap kerosakan reputasi yang dialami oleh Meta kerana peranannya dalam pilihan raya 2020, mula mengambil tindakan. Pada Julai, Rumah Putih memperoleh komitmen sukarela bertujuan untuk memastikan sistem AI selamat dan boleh dipercayai daripada tujuh syarikat AI terkemuka, termasuk Meta dan Microsoft. Salah satu komitmen adalah untuk membangunkan dan melaksanakan teknik asal usul atau cap air untuk kandungan visual dan audio yang dijana AI.
Langkah Meta dan Microsoft minggu ini mengikuti pengumuman daripada Alphabet, ibu syarikat Google dan YouTube, bahawa ia akan memerlukan pendedahan kelihatan pada iklan politik yang mengandungi kandungan yang dijana secara sintetik yang menggambarkan orang atau peristiwa secara tidak autentik.
Arvind Narayanan dan Sayash Kapoor, profesor dan penyelidik, masing-masing di Universiti Princeton, telah mengatakan AI yang lebih berdaya tidak akan memburukkan masalah penyelewengan maklumat kerana kandungan mengelirukan sudah agak mudah dihasilkan dan sesiapa yang mahu menghasilkan i