AI Yang Boleh Sembuhkan Internet Yang Berpecah

(SeaPRwire) –   Pada tahun 1990-an dan awal 2000-an, ahli teknologi memberikan janji besar kepada dunia: teknologi komunikasi baru akan memperkuat demokrasi, menghalang autoritarianisme, dan membawa era kemakmuran manusia yang baru. Tetapi hari ini, sedikit orang yang setuju bahawa internet telah memenuhi cita-cita yang mulia itu.

Hari ini, di platform media sosial, kandungan cenderung dikelaskan berdasarkan tahap penglibatan yang diterima. Dalam tempoh dua dekad yang lalu, politik, media dan budaya telah diubahsuai untuk memenuhi satu insentif tunggal: kiriman yang menimbulkan respon emosi sering menduduki tempat teratas.

Usaha untuk meningkatkan kesihatan ruang online selama ini tertumpu kepada pengawalan kandungan, amalan mengenal pasti dan menghapuskan kandungan buruk. Syarikat teknologi menggaji pekerja dan membina AI untuk mengenal pasti ucapan kebencian, provokasi keganasan, dan gangguan. Ini berfungsi dengan kurang sempurna, tetapi ia berjaya menghalang kebencian teruk banjiri ruang berita kita.

“Adakah anda melihat internet yang berfungsi dengan baik, di mana kita boleh berbincang secara sihat atau berfaedah?” tanya Yasmin Green, CEO bahagian Google bernama Jigsaw, yang ditubuhkan pada 2010 dengan mandat untuk menangani ancaman terhadap masyarakat terbuka. “Tidak. Anda melihat internet yang semakin jauh berpecah.”

Bagaimana jika ada cara lain?

Jigsaw percaya ia telah menemui satu. Pada Isnin, anak syarikat Google itu melancarkan pengelasifikator, atau pengklasifikator, yang boleh menilai kiriman berdasarkan kemungkinan ia mengandungi kandungan baik: Adakah kiriman itu berbelah bagi? Adakah ia mengandungi penjelasan berasaskan bukti? Adakah ia berkongsi kisah peribadi, atau menggalakkan keinsafan manusia? Dengan mengembalikan skor nombor (daripada 0 hingga 1) yang mewakili kebarangkalian kiriman itu mengandungi setiap kebaikan dan lain-lain, alat AI baharu ini boleh membolehkan pereka ruang dalam talian mengelaskan kiriman dengan cara baharu. Sebaliknya daripada kiriman yang menerima paling banyak suka atau komen menduduki tempat teratas, platform boleh – dalam usaha untuk menggalakkan komuniti yang lebih baik – memilih untuk meletakkan komen paling berbelah bagi, atau paling berbelas kasihan, terlebih dahulu.

Kemajuan ini menjadi mungkin berkat kemajuan terkini dalam model bahasa besar (LLM), jenis AI yang menyokong bot percakapan seperti ChatGPT. Pada masa lalu, walaupun melatih AI untuk mengenal pasti bentuk ketoksikan yang ringkas, seperti sama ada kiriman itu rasis, memerlukan jutaan contoh berlabel. Bentuk AI lama itu sering rapuh dan tidak berkesan, tidak kira mahal untuk dibangunkan. Tetapi generasi AI baharu boleh mengenal pasti konsep bahasa yang kompleks secara asas, dan menyesuaikan mereka untuk melaksanakan tugas tertentu jauh lebih murah daripada dahulu. Pengelasifikator baharu Jigsaw boleh mengenal pasti “atribut” seperti sama ada kiriman itu mengandungi kisah peribadi, rasa ingin tahu, berbelah bagi, keinsafan, penjelasan, kesetiaan, atau hormat. “Ia mula menjadi mudah untuk bercakap tentang sesuatu seperti membina pengelas untuk keinsafan, atau rasa ingin tahu, atau berbelah bagi,” kata Jonathan Stray, saintis kanan di Pusat Kecocokan AI yang Bersesuaian Manusia Berkeley. “Konsep-konsep konteks, tahu apabila saya melihatnya sebegini, kini kami jauh lebih baik dalam mengesan mereka.”

Kemampuan baharu ini boleh menjadi titik perubahan untuk internet. Green, dan korus akademik yang semakin meningkat yang mengkaji kesan media sosial terhadap perbualan awam, menegaskan bahawa pengawalan kandungan “perlu tetapi tidak cukup” untuk membuat internet menjadi tempat yang lebih baik. Menemui cara untuk meningkatkan kandungan positif, kata mereka, boleh memberikan kesan positif berantai di peringkat peribadi – hubungan kita antara satu sama lain – tetapi juga pada skala masyarakat. “Dengan mengubah cara kandungan dikelaskan, jika anda boleh melakukannya dengan cara yang cukup meluas, anda mungkin dapat mengubah ekonomi media seluruh sistem,” kata Stray, yang tidak bekerja pada projek Jigsaw. “Jika saluran pengedaran algoritma cukup banyak menghargai retorik berpecah, ia sebenarnya tidak akan berbaloi untuk dihasilkan lagi.”

Pada suatu pagi pada akhir Mac, Tin Acosta menyertai panggilan video dari pejabat Jigsaw di Bandar Raya New York. Di dinding bilik mesyuarat di belakangnya, terdapat gambar besar dari Revolusi Mawar Georgia pada tahun 2003, apabila penunjuk perasaan aman menjatuhkan kerajaan zaman Soviet negara itu. Bilik lain mempunyai gambar serupa tentang orang di Syria, Iran, Cuba dan Korea Utara “menggunakan teknologi dan suara mereka untuk menjamin kebebasan mereka,” kata pegawai media Jigsaw, yang juga berada di bilik itu, memberitahu saya. Gambar-gambar itu bertujuan mengingatkan misi Jigsaw untuk menggunakan teknologi sebagai kuasa untuk kebaikan, dan tanggungjawabnya untuk melayani orang di kedua-dua demokrasi dan masyarakat penindasan.

Pada laptopnya, Acosta menghidupkan demonstrasi pengelasifikator baharu Jigsaw. Menggunakan pangkalan data 380 komen dari thread Reddit terkini, pengurus produk kanan Jigsaw memulakan demonstrasi bagaimana mengelaskan semula kiriman menggunakan pengelasifikator yang berbeza akan mengubah jenis komen yang menduduki tempat teratas. Penulis asal thread itu meminta saranan filem yang menggalakkan kehidupan. Dikelaskan semula mengikut pengelasan asal Reddit – kiriman yang menerima undian terbanyak – komen teratas adalah ringkas, dan tidak mengandungi apa-apa selain tajuk filem popular. Kemudian Acosta memilih menu turun pengelasifikator penjelasan Jigsaw. Kiriman disusun semula. Kini, komen teratas lebih terperinci. “Anda mula melihat orang berfikir dengan mendalam tentang respon mereka,” kata Acosta. “Di sini ada seseorang membincangkan School of Rock – bukan hanya kandungan plot, tetapi juga cara filem itu mengubah hidupnya dan membuatkan dia jatuh cinta dengan muzik.” (TIME bersetuju untuk tidak menyalin terus komen, yang Jigsaw kata digunakan untuk tujuan demonstrasi sahaja dan tidak digunakan untuk melatih model AI mereka.)

Acosta memilih pengelasifikator lain, salah satu kegemarannya: sama ada kiriman itu mengandungi kisah peribadi. Komen teratas kini dari pengguna yang menggambarkan bagaimana, di bawah selimut tebal dan pengaruh dadah, mereka telah menangis teruk sehingga terpaksa menangguhkan filem berulang kali ketika monolog Ke Huy Quan dalam Everything Everywhere All at Once. Komen teratas yang lain menceritakan bagaimana trailer filem telah memberi inspirasi untuk meletak jawatan pekerjaan yang membosankan. Komen lain lagi mengingatkan mereka tentang adik mereka, yang meninggal 10 tahun lalu. “Ini adalah cara yang baik untuk melihat perbualan dan memahaminya sedikit lebih baik daripada penglibatan atau kemas kini,” kata Acosta.

Untuk pengelasifikator mempunyai kesan terhadap internet lebih luas, ia memerlukan sokongan syarikat teknologi terbesar, yang semuanya terlibat dalam persaingan sifar untuk perhatian kita. Walaupun dibangunkan di dalam Google, syarikat raksasa teknologi itu tidak berhasrat untuk mula menggunakan alat itu untuk membantu mengelaskan komen YouTube mereka, kata Green. Sebaliknya, Jigsaw menawarkan alat-alat ini secara percuma untuk pembangun bebas, dengan harapan ruang dalam talian kecil seperti papan mesej dan bahagian komen akhbar akan membangunkan asas bukti bahawa bentuk pengelasan baharu popular dengan pengguna.

Terdapat beberapa sebab untuk meragui. Walaupun kekurangannya, pengelasan berdasarkan penglibatan adalah egalitarian. Kiriman popular akan dikeraskan terlepas daripada kandungan mereka, dan dengan cara ini media sosial telah membenarkan kumpulan terpinggir mendapat suara yang lama dinafikan kepada mereka oleh media tradisional. Membawa AI ke dalam gambar boleh mengancam keadaan ini. Badan kajian yang luas menunjukkan bahawa LLM mempunyai banyak bias terbina; jika digunakan terlalu tergesa-gesa, pengelasifikator Jigsaw mungkin akan meningkatkan suara yang sudah terkemuka dalam talian, dengan itu mengasingkan suara yang tidak. Pengelasifikator juga boleh memperburuk masalah kandungan yang dijana AI banjiri internet, dengan memberikan penipu resepi mudah untuk kandungan dijana AI yang berkemungkinan akan dikeraskan. Walaupun Jigsaw mengelak masalah ini, mengubahsuai ucapan dalam talian telah menjadi medan perang politik. Kedua-dua konservatif dan liberal yakin kiriman mereka dicemari; sementara itu, syarikat teknologi dihadapkan dengan tuduhan membuat keputusan tidak bertanggungjawab yang mempengaruhi perkarangan awam global. Jigsaw menegaskan bahawa alat baharu mereka membenarkan platform teknologi bergantung kurang kepada amalan pengawalan kandungan yang kontroversi. Tetapi tidak ada cara untuk melarikan diri daripada fakta bahawa mengubah jenis ucapan yang diberi ganjaran dalam talian akan sentiasa mempunyai lawan politik.

Namun demikian, akademik berpendapat bahawa walaupun terdapat risiko, kemungkinan faedah Jigsaw jauh lebih besar. Green berkata, “Saya fikir kita perlu mencuba. Kita tidak boleh hanya duduk dan biarkan perkara menjadi lebih teruk.”