Kay Firth-Butterfield Berkenaan Memanfaatkan Kuasa AI Secara Bertanggungjawab

(SeaPRwire) –   Kay Firth-Butterfield telah berkecimpung di persimpangan pertanggungjawaban dan AI selama lebih dari satu dekad dan bersemangat tentang masa depan. “Saya bukan seorang pesimis AI. Saya percaya bahwa jika kita melakukannya dengan benar, hal ini akan dapat membuka begitu banyak pintu yang bermanfaat,” katanya. Namun dia tetap berhati-hati. Setelah dokter mendiagnosisnya dengan kanker payudara tahun lalu, dia bersyukur mereka tidak terlalu bergantung pada AI, meskipun AI semakin banyak digunakan untuk mengevaluasi mammogram dan MRI, dan bahkan dalam merencanakan pengobatan. Ketika Firth-Butterfield, yang sekarang telah sembuh, tidak terlalu khawatir tentang apakah ada mesin yang membaca mammogramnya, dia memperhatikan bahwa terlalu mengandalkan model AI saat ini dapat menjadi masalah karena terkadang mereka menyajikan informasi yang salah. Ia mengatakan bahwa para dokter bedahnya setuju.

Mantan hakim dan profesor, Firth-Butterfield telah muncul sebagai salah satu pakar terkemuka dunia dalam AI yang bertanggung jawab, membentuk upaya untuk memastikan sistem ini tetap bertanggung jawab dan transparan. April lalu, dia mengakhiri lima setengah tahun masa jabatannya sebagai kepala bidang AI dan Pembelajaran Mesin di World Economic Forum, di mana dia menyusun kerangka kerja dan pedoman bagi perusahaan, negara, dan organisasi lain untuk mengarahkan pengembangan dan penggunaan AI yang bertanggung jawab. Karyanya dalam menasihati Inggris dan Brasil dalam menciptakan sistem AI seperti itu telah menjadi hukum. “Jika Anda adalah seorang pejabat pemerintah dan Anda menggunakan kecerdasan buatan dengan warga negara Anda, maka Anda harus bisa menjelaskan kepada warga negara Anda bagaimana AI tersebut digunakan,” katanya. Pada tahun 2016, Firth-Butterfield ikut mendirikan Responsible AI Institute, yang menyediakan berbagai perangkat bagi organisasi untuk membangun sistem AI yang aman dan andal, dan ia bertugas di dewan penasihat U.S. Government Accountability Office dalam bidang AI yang berkaitan dengan sains dan teknologi, dan di dewan penasihat UNESCO’s International Research Centre on AI.

Saat ini, dia juga menjalankan Good Tech Advisory— bersama perusahaan, pemerintah, LSM, dan media untuk menerapkan AI secara bertanggung jawab. Itu berarti membantu menyiapkan pedoman penggunaan teknologi yang mengandalkan AI untuk meminimalkan potensi bahaya, sekaligus memaksimalkan manfaat dan memastikan kepatuhan hukum.

Sebagai CEO Good Tech Advisory, Firth-Butterfield telah membantu rumah sakit di AS menavigasi potensi penggunaan AI, termasuk untuk membaca gambar medis dan menentukan diagnosis. Banyak di antaranya tidak memiliki pedoman yang jelas tentang bagaimana staf dapat menggunakan program seperti ChatGPT, meskipun Firth-Butterfield menunjukkan bahwa perangkat ini sering kali dapat memberikan informasi yang tidak akurat. “Perusahaan-perusahaan tersebut bergulat dengan beberapa pilihan AI yang bertanggung jawab yang sangat serius,” katanya. Dokter yang menggunakan AI untuk mengetik catatan secara efisien dan menangani tugas administratif dapat memperoleh lebih banyak waktu untuk perawatan pasien. Namun mengandalkan AI untuk memberikan diagnosis dalam situasi bertekanan tinggi bisa jadi berbahaya. Dan jika pasien menjadi lebih sakit atau meninggal, pertanyaan tentang siapa yang bertanggung jawab menjadi masalah.

Ketika AI tidak digunakan secara bertanggung jawab, orang bisa terluka—dan secara tidak proporsional adalah perempuan dan orang kulit berwarna, Firth-Butterfield mencatat. Algoritma yang bias dapat mencegah pekerja untuk dipekerjakan, menolak aplikasi hipotek secara tidak adil, atau membuat keputusan yang salah tentang ancaman keamanan berdasarkan pengenalan wajah, misalnya. 

Inti dari advokasi Firth-Butterfield adalah memahami bagaimana AI berdampak pada anggota masyarakat yang paling rentan. Di WEF, ia bekerja dengan penggunaan AI dengan anak-anak, dan menyelenggarakan Penghargaan Mainan Cerdas yang mendesak penerapan secara bijaksana. “Kita membiarkan anak-anak kita bermain dengan mainan yang diaktifkan oleh kecerdasan buatan, tetapi kita tidak mengerti apa yang dipelajari anak-anak kita… atau ke mana data mereka pergi,” katanya.

Melarang penggunaan AI dalam mainan atau ruang kelas sebagai cara untuk melindungi anak-anak dari potensi risikonya bukanlah jawabannya, kata Firth-Butterfield. “Kita memang perlu anak-anak menggunakan AI dalam pendidikan karena mereka akan menggunakannya dalam pekerjaan mereka. Jadi kita harus menemukan cara yang bertanggung jawab untuk memungkinkan interaksi antara mesin dan manusia,” katanya. Tetapi guru harus tetap bertanggung jawab. “Kita tidak bisa begitu saja menyerahkan pendidikan kepada AI; kita perlu tetap melibatkan manusia,” katanya. Guru mungkin mengandalkan AI untuk administrasi back-end, sehingga membebaskan waktu untuk lebih fokus membantu siswa mereka. 

Sangat penting untuk memperhatikan dengan seksama bagaimana sistem dibangun, tetapi Firth-Butterfield juga prihatin tentang siapa yang berkesempatan untuk berpartisipasi. Meskipun lebih dari 100 juta orang menggunakan ChatGPT, hampir 3 miliar orang masih belum memiliki akses internet. “Kita meningkatkan kesenjangan digital dengan sangat cepat—tidak hanya antara Utara dan Selatan Global, tetapi juga di dalam negara-negara,” katanya. Meskipun AI berpotensi untuk merevolusi pengajaran di sekolah dan perawatan pasien medis, sebagian besar dunia mungkin tidak merasakan dampaknya. “Kita cenderung duduk di menara gading kita berbicara tentang bagaimana AI akan melakukan segala hal dengan cemerlang dan kita tidak ingat bahwa banyak dunia belum menjadi bagian dari revolusi internet,” katanya.

Masa depan kita dipertaruhkan dalam keputusan ini tentang bagaimana manusia menggunakan dan bergantung pada AI, katanya: “Ini tentang apakah kita sebagai manusia membangun masyarakat yang kita inginkan.

Profil ini diterbitkan sebagai bagian dari inisiatif TIME, yang mengakui para pemimpin dari seluruh dunia yang mendorong perubahan dalam komunitas dan industri mereka. Upacara TIME100 Impact Awards berikutnya akan diadakan pada 11 Februari di Dubai.