Bagaimana AI Digunakan untuk Menyebarkan Maklumat Salah—dan Menentangnya—Semasa Protes di L.A.

(SeaPRwire) –   Ketika turun ke jalan-jalan di Los Angeles County untuk membantah serbuan Immigration and Customs Enforcement, maklumat salah telah berleluasa dalam talian.

, dan arahan Presiden Donald Trump untuk National Guard dan Marin sebagai respons, adalah salah satu peristiwa berita utama yang pertama berlaku dalam era baharu di mana alat AI telah menjadi sebahagian daripada kehidupan dalam talian. Dan apabila berita itu mencetuskan perdebatan dan dialog yang sengit dalam talian, alat tersebut telah memainkan peranan yang besar dalam wacana tersebut. Pengguna media sosial telah menggunakan alat AI untuk mencipta deepfake dan menyebarkan maklumat salah—tetapi juga untuk menyemak fakta dan menyangkal dakwaan palsu. 

Berikut ialah cara AI telah digunakan semasa tunjuk perasaan L.A..

Deepfakes

Imej provokatif dan sahih daripada tunjuk perasaan telah menarik perhatian dunia minggu ini, termasuk seorang penunjuk perasaan bendera Mexico dan seorang wartawan yang dengan peluru getah oleh seorang pegawai polis. Pada masa yang sama, beberapa video palsu yang dijana AI juga telah diedarkan.

Sejak beberapa tahun kebelakangan ini, alat untuk mencipta video ini telah bertambah baik dengan pesat, membolehkan pengguna mencipta deepfake yang meyakinkan dengan cepat dalam masa beberapa minit. Awal bulan ini, contohnya, untuk menunjukkan cara ia boleh digunakan untuk mencipta video yang mengelirukan atau menghasut tentang peristiwa berita. 

Antara video yang telah sepanjang minggu lalu ialah seorang askar National Guard bernama “Bob” yang merakam dirinya “bertugas” di Los Angeles dan bersedia untuk menyembur gas kepada penunjuk perasaan. Video itu telah dilihat lebih daripada 1 juta kali, menurut France 24, tetapi nampaknya telah diturunkan daripada TikTok sejak itu. Beribu-ribu orang meninggalkan komen pada video itu, mengucapkan terima kasih kepada “Bob” atas jasanya—tidak menyedari bahawa “Bob” tidak wujud.

Banyak imej mengelirukan lain telah diedarkan bukan disebabkan oleh AI, tetapi lebih banyak usaha berteknologi rendah. Senator Republikan Ted Cruz dari Texas, contohnya, video di X yang asalnya dikongsi oleh pelakon konservatif James Woods yang kelihatan menunjukkan tunjuk perasaan ganas dengan kereta terbakar—tetapi ia adalah . Dan satu lagi menunjukkan palet bata, yang didakwa oleh pengepos akan digunakan oleh “militan Demokrat.” Tetapi foto itu adalah . 

Penyemakan fakta

Dalam kedua-dua contoh itu, pengguna X membalas siaran asal dengan bertanya kepada Grok, AI Elon Musk, jika dakwaan itu benar. Grok telah menjadi sumber utama penyemakan fakta semasa tunjuk perasaan: Ramai pengguna X telah bergantung padanya dan model AI lain, kadangkala lebih daripada wartawan profesional, untuk menyemak fakta dakwaan yang berkaitan dengan tunjuk perasaan L.A., termasuk, contohnya, berapa banyak terdapat daripada demonstrasi.

Grok menyangkal kedua-dua siaran Cruz dan siaran bata. Sebagai respons kepada senator Texas itu, AI : “Rakaman itu mungkin diambil pada 30 Mei 2020…. Walaupun video itu menunjukkan keganasan, banyak tunjuk perasaan adalah aman, dan menggunakan rakaman lama hari ini boleh mengelirukan.” Sebagai respons kepada foto bata, ia : “Foto bata berasal dari syarikat bekalan bangunan Malaysia, seperti yang disahkan oleh nota komuniti dan sumber penyemakan fakta seperti The Guardian dan PolitiFact. Ia disalahgunakan untuk mendakwa secara palsu bahawa organisasi yang dibiayai Soros meletakkan bata berhampiran kemudahan ICE A.S. untuk tunjuk perasaan.” 

Tetapi Grok dan alat AI lain telah melakukan kesilapan, menjadikannya sumber berita yang kurang optimum. Grok secara palsu membayangkan bahawa foto yang menggambarkan tentera National Guard tidur di lantai di L.A. yang dikongsi oleh Newsom adalah dari Afghanistan pada tahun 2021. ChatGPT berkata . Tuduhan ini oleh pengaruh sayap kanan yang terkenal seperti Laura Loomer. Sebenarnya, San Francisco Chronicle telah foto itu, setelah memperoleh imej itu secara eksklusif, dan telah .

Grok kemudian dirinya dan meminta maaf. 

“, dibina untuk mengejar kebenaran, bukan menjual cerita dongeng. Jika saya kata gambar itu dari Afghanistan, ia adalah gangguan—data latihan saya adalah serpihan internet yang liar, dan kadang-kadang saya salah tembak,” kata Grok dalam siaran di X, membalas siaran tentang maklumat salah.

“Persekitaran maklumat yang tidak berfungsi yang kita alami sudah pasti memburukkan lagi kesukaran orang ramai dalam menavigasi keadaan tunjuk perasaan semasa di LA dan tindakan kerajaan persekutuan untuk mengerahkan anggota tentera untuk menindas mereka,” kata Kate Ruane, pengarah Center for Democracy and Technology’s Free Expression Program. 

Nina Brown, seorang profesor di Newhouse School of Public Communications di Syracuse University, berkata bahawa “sangat membimbangkan” jika orang ramai bergantung pada AI untuk menyemak fakta maklumat, dan bukannya beralih kepada sumber yang bereputasi seperti wartawan, kerana AI “bukan sumber yang boleh dipercayai untuk sebarang maklumat pada masa ini.”

“Ia mempunyai banyak kegunaan yang luar biasa, dan ia menjadi lebih tepat dari minit ke minit, tetapi ia sama sekali bukan pengganti penyemak fakta yang sebenar,” kata Brown. “Peranan yang dimainkan oleh wartawan dan media adalah untuk menjadi mata dan telinga untuk orang ramai tentang apa yang berlaku di sekeliling kita, dan menjadi sumber maklumat yang boleh dipercayai. Jadi ia benar-benar membimbangkan saya bahawa orang ramai akan melihat alat AI generatif dan bukannya apa yang disampaikan oleh wartawan di lapangan.”

Brown berkata dia semakin bimbang tentang bagaimana maklumat salah akan merebak dalam era AI.

“Saya lebih bimbang kerana gabungan kesediaan orang untuk mempercayai apa yang mereka lihat tanpa siasatan—mengambilnya pada nilai muka—dan kemajuan yang luar biasa dalam AI yang membolehkan pengguna awam mencipta video yang sangat realistik yang sebenarnya menipu; iaitu deepfake, yang tidak nyata,” kata Brown.

“`