Cara Menyelamatkan Jiwa Bukan Untung OpenAI, Menurut Bekas Pekerja OpenAI

(SeaPRwire) –   OpenAI bukanlah syarikat biasa. Ditubuhkan sebagai sebuah organisasi bukan untung pada tahun 2015, ia meramalkan bahawa AI boleh “mencapai prestasi manusia dalam hampir setiap tugas intelek,” mewujudkan keperluan untuk sebuah organisasi yang akan “membina nilai untuk semua orang dan bukannya pemegang saham.” 

Dalam tahun-tahun berikutnya, pembangunan AI menjadi , jadi pada tahun 2019, OpenAI mewujudkan yang boleh mengumpul modal pelaburan sambil kekal terikat dengan misi amal organisasi bukan untung tersebut.

Saya menyertai syarikat itu sebagai seorang penyelidik junior sekitar masa peralihan ini. Pasukan saya di OpenAI memberi tumpuan kepada : satu proses di mana sistem AI berinteraksi dengan persekitaran simulasi, dan belajar untuk memperbaiki melalui percubaan dan kesilapan. Kami menggunakan kaedah ini pertama kali pada permainan video, dan kemudian kepada model bahasa yang besar, membentuknya menggunakan maklum balas manusia menjadi versi awal ChatGPT. Teknik yang sama digunakan hari ini untuk melatih sistem yang dinikmati oleh ratusan juta pengguna.

Kerja saya dan pasukan saya berdasarkan komitmen utama yang dibuat oleh OpenAI dalam peralihannya pada tahun 2019: kewajipan yang mengikat dari segi undang-undang untuk mengutamakan kepentingan awam berbanding kepentingan pelabur. Tetapi komitmen ini kini terancam, kerana OpenAI mengejar yang akan menghapuskan had ke atas keuntungan pelabur dan kewajibannya kepada misi amalnya.

Adalah menggoda untuk memberi respons kepada perkara ini secara sinis, dengan mengangkat bahu: sebaik sahaja terdapat wang yang cukup dipertaruhkan, transformasi organisasi daripada sebuah organisasi bukan untung yang mengutamakan misi menjadi sebuah syarikat teknologi besar adalah tidak dapat dielakkan. Tetapi naratif sedemikian membiarkan syarikat itu terlepas daripada tanggungjawab kerana menarik balik janjinya kepada orang ramai. Lebih-lebih lagi, rancangan penstrukturan semula OpenAI masih daripada pegawai-pegawai yang dipilih, jadi orang ramai mempunyai sebab dan hak untuk membela kepentingan mereka.

Saya masih memiliki ekuiti dalam OpenAI, tetapi walaupun saya mempunyai kepentingan peribadi dalam kejayaan kewangan organisasi itu, saya percaya kepentingan awam perlu dilindungi. Sebelum saya meninggalkan syarikat itu pada tahun 2023, produk sudah pun dikeluarkan mengikut jadual yang ketat, tetapi ini nampaknya hanya bertambah hebat, sehingga pekerja telah memberi amaran tentang . Pendekatan tergesa-gesa ini kini membawa kepada keluaran yang kerana “mendorong kemarahan, menggesa tindakan impulsif, atau mengukuhkan emosi negatif.” Sementara itu, pembuat keputusan mempunyai insentif keuntungan yang tidak mengambil kira sepenuhnya keburukan ini.

Tanggungjawab untuk memastikan OpenAI mematuhi misi amalnya terletak pada lembaga pengarah bukan untungnya. Malangnya, ramai yang bahawa lembaga bukan untung semasa kekurangan kebebasan dan sumber yang diperlukan untuk melaksanakan peranan ini dengan berkesan. Sejak 2019, operasi komersial OpenAI telah berkembang daripada tidak wujud kepada menjana berbilion-bilion hasil tahunan. Sebaliknya, organisasi bukan untung itu masih tidak mempunyai kakitangan bebasnya sendiri, dan ahli lembaganya terlalu sibuk menjalankan syarikat atau makmal akademik mereka sendiri untuk memberikan pengawasan yang bermakna. Selain itu, penstrukturan semula yang dicadangkan oleh OpenAI kini mengancam untuk melemahkan kuasa lembaga apabila ia sebaliknya perlu diperkukuhkan.

Tetapi ada cara lain untuk maju. Sebelum meneruskan sebarang penstrukturan semula, keutamaan segera lembaga itu haruslah mengupah seorang CEO bukan untung untuk membina pasukan bebas, bebas daripada konflik kepentingan kewangan dan bertanggungjawab kepada lembaga sahaja. Tujuan pasukan ini adalah untuk menyokong lembaga dalam tugas pengawasannya, dan ia boleh berkembang untuk melaksanakan beberapa fungsi penting.

Pertama, organisasi bukan untung boleh menjalankan semakan prestasi eksekutif mengikut piawaian misi amal organisasi itu. Ini boleh digunakan oleh lembaga untuk menentukan pakej pampasan eksekutif, membantu menyelaraskan insentif di bahagian atas syarikat.

Kedua, organisasi bukan untung boleh menyediakan lembaga dengan kepakaran bebas mengenai keselamatan dan sekuriti. Ia boleh menyemak ujian keselamatan dalaman yang dijalankan di bawah , serta ujian keselamatan luaran dan audit pihak ketiga terhadap amalan sekuriti syarikat. Penggunaan Frontier boleh tertakluk kepada kelulusan lembaga, disokong oleh ringkasan semakan ini.

Ketiga, organisasi bukan untung boleh meningkatkan ketelusan. Dengan mengekalkan saluran komunikasi sendiri dengan orang ramai, ia boleh memaklumkan orang ramai tentang amalan keselamatan dan sekuriti syarikat, perubahan penting pada dasar dalaman atau spesifikasi model, dan keupayaan baharu yang membimbangkan orang ramai. Ia juga boleh menjalankan dan menerbitkan postmortem sendiri mengenai insiden keselamatan, dan menguruskan talian aduan pemberi maklumat dalaman.

Akhir sekali, organisasi bukan untung boleh mengambil alih sebarang aktiviti di mana insentif keuntungan mungkin menyimpang daripada kepentingan awam, seperti . Ia juga boleh mula menggunakan sumber kewangan organisasi bukan untung yang besar (yang diperoleh daripada pegangan majoritinya dalam syarikat) untuk membuat geran untuk menyokong kedua-dua penggunaan AI yang bermanfaat dan usaha pengurangan risiko.

Memandangkan pembangunan AI terus berkembang pesat dan dengan untuk peraturan Persekutuan yang bermakna di masa hadapan, lembaga bukan untung yang diberi kuasa adalah lebih penting daripada sebelumnya. Aktiviti organisasi bukan untung itu boleh berfungsi bukan sahaja sebagai pengawasan untuk OpenAI itu sendiri, tetapi juga sebagai pelan tindakan untuk orang lain. Contohnya, piawaian untuk ketelusan dan semakan pihak ketiga yang dipelopori di OpenAI boleh menyediakan titik permulaan untuk peraturan masa depan.

Langkah seterusnya OpenAI akan menentukan trajektori syarikat itu untuk tahun-tahun akan datang. Daripada membatalkan komitmennya secara kekal kepada kepentingan awam, ia boleh berundur daripada ambang dan mengesahkannya semula, dengan meningkatkan keupayaan lembaga bukan untung untuk memenuhi kewajipan pengawasannya.

Jiwa bukan untung OpenAI masih boleh diselamatkan—tetapi ia mungkin memerlukan orang ramai untuk membuat suaranya didengari sebagai benefisiari sah organisasi itu.

“`