‘Waktu Semakin Mepet’: Surat Terbuka Baru Menyerukan Pelarangan Pengembangan AI Supercerdas

(SeaPRwire) –   Sebuah surat terbuka yang menyerukan pelarangan pengembangan AI supercerdas diumumkan pada hari Rabu, dengan tanda tangan lebih dari 700 selebriti, ilmuwan AI, pemimpin agama, dan pembuat kebijakan.

Di antara para penandatangan adalah lima peraih Nobel; dua yang disebut “Godfather AI”; Steve Wozniak, salah satu pendiri Apple; Steve Bannon, sekutu dekat Presiden Trump; Paolo Benanti, penasihat Paus; dan bahkan Harry dan Meghan, Duke dan Duchess of Sussex.

Surat terbuka itu berbunyi lengkap:

“Kami menyerukan pelarangan pengembangan superintelligence, tidak akan dicabut sebelum ada

1. konsensus ilmiah yang luas bahwa itu akan dilakukan dengan aman dan terkendali, dan
2. dukungan publik yang kuat.”

Surat itu dikoordinasikan dan diterbitkan oleh Future of Life Institute, sebuah organisasi nirlaba yang pada tahun 2023 menerbitkan seruan berbeda untuk jeda enam bulan dalam pengembangan sistem AI yang kuat. Meskipun beredar luas, surat itu tidak mencapai tujuannya.

Penyelenggara mengatakan mereka memutuskan untuk meluncurkan kampanye baru, dengan fokus yang lebih spesifik pada superintelligence, karena mereka percaya teknologi tersebut—yang mereka definisikan sebagai sistem yang dapat melampaui kinerja manusia pada semua tugas yang berguna—dapat tiba dalam waktu sesingkat satu hingga dua tahun. “Waktu terus berjalan,” kata Anthony Aguirre, direktur eksekutif FLI, dalam sebuah wawancara dengan TIME. Satu-satunya hal yang kemungkinan besar akan menghentikan perusahaan-perusahaan AI yang melaju menuju superintelligence, katanya, “adalah jika ada kesadaran luas di antara masyarakat di semua tingkat bahwa ini sebenarnya bukan yang kita inginkan.”

yang dirilis bersamaan dengan surat itu menunjukkan bahwa 64% orang Amerika percaya bahwa superintelligence “tidak boleh dikembangkan sampai terbukti aman dan terkendali,” dan hanya 5% yang percaya itu harus dikembangkan secepat mungkin. “Ini adalah sejumlah kecil perusahaan yang sangat kaya yang membangun ini, dan sejumlah besar orang yang lebih suka mengambil jalan yang berbeda,” kata Aguirre.

Aktor Joseph Gordon-Levitt dan Stephen Fry, rapper will.i.am, dan penulis Yuval Noah Harari juga menandatangani surat itu. Susan Rice, penasihat keamanan nasional dalam Pemerintahan Barack Obama, ikut menandatangani. Demikian pula satu anggota staf di OpenAI—sebuah organisasi oleh CEO-nya, Sam Altman, sebagai “perusahaan penelitian superintelligence”—Leo Gao, seorang anggota staf teknis di perusahaan tersebut. Aguirre memperkirakan lebih banyak orang akan menandatangani seiring berjalannya kampanye. “Keyakinan itu sudah ada,” katanya. “Yang belum kita miliki adalah orang-orang merasa bebas untuk menyatakan keyakinan mereka secara terbuka.”

“Masa depan AI harus melayani umat manusia, bukan menggantikannya,” kata Pangeran Harry, Duke of Sussex, dalam pesan yang menyertai tanda tangannya. “Saya percaya ujian kemajuan yang sesungguhnya bukan seberapa cepat kita bergerak, tetapi seberapa bijak kita mengarahkannya. Tidak ada kesempatan kedua.”

Tanda tangan Joseph Gordon-Levitt disertai dengan pesan: “Ya, kami ingin alat AI spesifik yang dapat membantu menyembuhkan penyakit, memperkuat keamanan nasional, dll. Tetapi apakah AI juga perlu meniru manusia, mengasuh anak-anak kita, mengubah kita semua menjadi pecandu kemalasan dan menghasilkan jutaan dolar dengan menyajikan iklan? Kebanyakan orang tidak menginginkan itu. Tetapi itulah yang dimaksud perusahaan-perusahaan teknologi besar ini ketika mereka berbicara tentang membangun ‘Superintelligence’.”

Pernyataan itu dibuat minimal untuk menarik berbagai penandatangan yang luas dan beragam. Tetapi untuk perubahan yang berarti, Aguirre berpendapat regulasi diperlukan. “Banyak kerugian berasal dari struktur insentif menyimpang yang dihadapi perusahaan saat ini,” katanya, mencatat bahwa perusahaan di Amerika dan Tiongkok bersaing untuk menjadi yang pertama dalam menciptakan superintelligence. 

“Entah itu segera atau butuh waktu, setelah kita mengembangkan superintelligence, mesin-mesin akan mengambil alih,” kata Aguirre. “Apakah itu akan berjalan baik bagi umat manusia atau tidak, kita benar-benar tidak tahu. Tapi itu bukan eksperimen yang ingin kita tuju begitu saja.”