OpenAI’s Sora Menyoroti Ancaman Deepfake yang Kian Meningkat

(SeaPRwire) –   Apabila OpenAI mengeluarkan aplikasi penjanaan video AI-nya, Sora, pada bulan September, ia menyatakan bahawa “anda mengawal rupa anda sepenuhnya.” Aplikasi ini membolehkan pengguna menyertakan diri mereka dan rakan-rakan mereka dalam video melalui ciri yang dipanggil “cameos”—aplikasi ini mengimbas wajah pengguna dan melakukan semakan keaktifan, menyediakan data untuk menjana video pengguna dan untuk mengesahkan persetujuan mereka untuk rakan-rakan menggunakan rupa mereka pada aplikasi tersebut.

Namun Reality Defender, sebuah syarikat yang mengkhususkan diri dalam mengenal pasti deepfake, menyatakan bahawa mereka berjaya menembusi langkah keselamatan anti-penyamaran Sora dalam masa 24 jam. Platform seperti Sora memberikan “rasa keselamatan yang munasabah,” kata Ketua Pegawai Eksekutif Reality Defender, Ben Colman, walaupun “sesiapa sahaja boleh menggunakan alat sedia ada” untuk melepasi pengesahan sebagai orang lain.

Penyelidik Reality Defender menggunakan rakaman awam individu terkenal, termasuk Ketua Pegawai Eksekutif dan penghibur, daripada panggilan laporan pendapatan dan temu bual media. Syarikat itu berjaya menembusi langkah keselamatan dengan setiap rupa yang mereka cuba tiru. Colman berhujah bahawa “mana-mana pelajar tingkatan 4 yang cerdas” boleh mengetahui alat yang digunakan oleh syarikatnya.

Seorang jurucakap OpenAI berkata dalam satu kenyataan e-mel kepada TIME bahawa “para penyelidik membina sistem deepfake yang canggih bagi Ketua Pegawai Eksekutif dan penghibur untuk cuba memintas perlindungan tersebut, dan kami secara berterusan memperkukuh Sora untuk menjadikannya lebih tahan terhadap penyalahgunaan jenis ini.” 

Pelancaran Sora, dan penembusan pantas mekanisme pengesahannya, adalah peringatan bahawa masyarakat tidak bersedia untuk gelombang deepfake peribadi yang semakin realistik. Jurang antara teknologi yang semakin maju dan peraturan yang ketinggalan zaman menyebabkan individu bersendirian untuk mengharungi landskap maklumat yang tidak menentu—dan untuk melindungi diri mereka daripada kemungkinan penipuan dan gangguan.

“Platform-platform sememangnya tahu perkara ini sedang berlaku, dan sememangnya tahu mereka boleh menyelesaikannya jika mereka mahu. Tetapi sehingga peraturan menyusul—kita melihat perkara yang sama berlaku di semua platform media sosial—mereka tidak akan melakukan apa-apa,” kata Colman.

Sora mencapai 1 juta muat turun dalam tempoh kurang lima hari—lebih pantas daripada ChatGPT, yang pada masa itu merupakan aplikasi pengguna paling pantas berkembang—walaupun memerlukan pengguna mempunyai jemputan, menurut Bill Peebles, ketua Sora di OpenAI. Pelancaran OpenAI diikuti oleh tawaran serupa dari Meta yang dipanggil Vibes, yang disepadukan ke dalam aplikasi Meta AI.

Ketersediaan deepfake yang meyakinkan yang semakin meningkat telah membimbangkan beberapa pemerhati. “Hakikatnya ialah mengesan [deepfake] secara mata kasar semakin mustahil, memandangkan kemajuan pesat dalam keupayaan teks-ke-imej, teks-ke-video, dan pengklonan audio,” kata Jennifer Ewbank, bekas timbalan pengarah inovasi digital di CIA, dalam e-mel kepada TIME.

Pengawal selia telah bergelut dengan cara menangani deepfake sejak sekurang-kurangnya 2019, apabila Presiden Trump meluluskan undang-undang yang menghendaki Pengarah Perisikan Kebangsaan menyiasat penggunaan deepfake oleh kerajaan asing. Bagaimanapun, seiring dengan peningkatan ketersediaan deepfake, fokus perundangan telah beralih lebih dekat ke rumah. Pada Mei 2025, Akta Take It Down telah digubal menjadi undang-undang persekutuan, melarang penerbitan dalam talian “gambaran visual intim” kanak-kanak bawah umur dan orang dewasa yang tidak bersetuju, dan menghendaki platform menurunkan kandungan yang melanggar dalam tempoh 48 jam selepas permintaan—tetapi penguatkuasaan hanya akan bermula pada Mei 2026.

Perundangan yang melarang deepfake boleh menjadi rumit. “Ia sebenarnya sangat rumit, secara teknikal dan undang-undang, kerana terdapat kebimbangan Pindaan Pertama mengenai penarikan balik ucapan tertentu,” kata Jameson Spivack, timbalan pengarah dasar AS di Future of Privacy Forum. Pada bulan Ogos, seorang hakim persekutuan membatalkan undang-undang deepfake California, yang bertujuan untuk menyekat kandungan deepfake yang dijana AI semasa pilihan raya, selepas X milik Elon Musk menyaman negeri tersebut atas dasar undang-undang itu melanggar perlindungan Pindaan Pertama. Akibatnya, keperluan untuk melabel kandungan yang dijana AI lebih biasa daripada larangan sepenuhnya, kata Spivack.

Pendekatan lain yang menjanjikan adalah bagi platform untuk mengguna pakai skim kenali-pelanggan-anda (know-your-customer) yang lebih baik, kata Fred Heiding, seorang felo penyelidik di Program Pertahanan, Teknologi Baru Muncul, dan Strategi Universiti Harvard. Skim kenali-pelanggan-anda memerlukan pengguna platform seperti Sora untuk log masuk menggunakan pengenalan diri yang disahkan, meningkatkan akauntabiliti dan membenarkan pihak berkuasa mengesan tingkah laku haram. Tetapi ada juga pertukaran di sini. “Masalahnya ialah kita sangat menghargai tanpa nama di Barat,” kata Heiding. “Itu bagus, tetapi tanpa nama ada kosnya, dan kosnya ialah perkara-perkara ini sangat sukar untuk dikuatkuasakan.”

Sementara penggubal undang-undang bergelut dengan kelaziman dan realisme deepfake yang semakin meningkat, individu dan organisasi boleh mengambil langkah untuk melindungi diri mereka. Spivack mengesyorkan penggunaan perisian pengesahan seperti , yang dibangunkan oleh Coalition for Content Provenance and Authenticity, yang melampirkan metadata mengenai asal usul kepada imej dan video. Kamera dari dan menyokong tera air tersebut, begitu juga dengan . Menggunakan pengesahan sedemikian meningkatkan kepercayaan terhadap imej tulen, dan melemahkan kepalsuan.

Seiring dengan perubahan landskap maklumat dalam talian, yang menyukarkan untuk mempercayai apa yang kita lihat dan dengar dalam talian, penggubal undang-undang dan individu sama-sama mesti membina daya tahan masyarakat terhadap media palsu. “Semakin kita memupuk daya tahan itu, semakin sukar bagi sesiapa sahaja untuk memonopoli perhatian kita dan memanipulasi kepercayaan kita,” kata Ewbank.