Surat menentang AI: Elon Musk dan para ahli menyerukan jeda dalam pengembangan

CEO dari Twitter, Elon Musk dan sejarawan yang terkenal dengan bukunya Sejarah Singkat Kemanusiaan, Yuval Noah Harari, di antara spesialis, peneliti, dan ilmuwan lainnya, memutuskan untuk menandatangani surat di mana mereka meminta jeda dalam pembaruan dan pengembangan AI.

Surat yang dimaksud dibuat oleh Institut Masa Depan Kehidupan (Institut untuk Masa Depan Kehidupan, dalam terjemahan gratis) dan merekomendasikan jeda dalam pengembangan kecerdasan buatan (AI) minimal enam bulan, yang transparan. Pelajari lebih lanjut tentang isi dokumen, lihat terjemahan teks lengkap dan ikuti terus diskusi seputar topik berikut.

Apa yang dikatakan surat menentang AI tentang kecerdasan buatan?

Wiraswasta dan munculnya misinformasi adalah dua perhatian utama dengan teknologi AI yang disorot dalam surat tersebut. Isi teks juga menuntut momen penangguhan pembangunan dengan alat-alat seperti GPT-4, tengah perjalanan dan solusi AI serupa harus bersifat "publik dan dapat diverifikasi".

Terkait investasi, surat itu juga membahas caranya OpenAI, Microsoft e Google berada dalam perlombaan teknologi tanpa melihat dari dekat bagaimana pemerintah dan lembaga publik berjuang untuk mengikuti setiap langkah baru. Artinya, menurut dokumen tersebut, sektor AI sedang memasuki kecepatan yang semakin sulit untuk diikuti dan bahkan pelaku yang terlibat dengan teknologi pun mengakui hal tersebut.

“Jika jeda ini tidak dapat diatur dengan cepat, pemerintah harus turun tangan dan melakukan penangguhan”

surat dari Institut Masa Depan Kehidupan

O teks dia juga menyebutkan laboratorium AI yang menghasilkan teknologi, tetapi tidak dapat membuat penilaian yang akurat dan bahkan tidak mampu mengendalikan pikiran digital ini. Yang menggelitik para penandatangan — mulai dari salah satu pendiri Apple Steve Wozniak hingga peneliti perintis seperti Yoshua Bengio dan Stuart Russel hingga mantan filsuf produk Google Tristan Harris — adalah pertanyaan seputar ruang lingkup penyebaran informasi, kebohongan, penggantian pikiran manusia, dan “kontrol” peradaban kita”. Dalam pengertian ini, dokumen tersebut juga memperhatikan momen investasi terbaik:

“Sistem AI yang kuat hanya boleh dikembangkan ketika kami yakin bahwa efeknya akan positif dan risikonya akan dikelola.”

surat dari Institut Masa Depan Kehidupan

Future of Life Institute dan Teknologi Bertanggung Jawab

Didirikan pada tahun 2015, dari investasi oleh Elon Musk, the Institut Masa Depan Kehidupan berusaha menjauhkan kemajuan teknologi baru dari kemungkinan risiko terhadap kehidupan, baik bagi umat manusia maupun bagi makhluk hidup lainnya. Organisasi tidak hanya memperhatikan AI, tetapi juga memantau produksi di berbagai bidang seperti bioteknologi dan energi nuklir. Upaya lembaga ini untuk mendukung tanggung jawab teknologi memiliki visi sebagai dunia di mana penyakit diberantas dan demokrasi diperkuat di seluruh dunia.

Tindakan Future of Life diakui oleh Perserikatan Bangsa-Bangsa (PBB) pada tahun 2020: PBB menunjuk lembaga tersebut sebagai perwakilan masyarakat sipil dalam isu-isu yang melibatkan AI. Namun, awal tahun ini, presiden pengawas teknologi itu, Max Tegmark, harus meminta maaf atas investasi yang salah arah di platform media sayap kanan, Nya Dagbladet Swedia.

Bagaimana posisi perusahaan lain dalam pengembangan AI?

Perusahaan konsolidasi seperti Google e Microsoft menghindari mengomentari surat dari Institut Masa Depan Kehidupan. Kedua perusahaan semakin bergerak untuk menawarkan solusi AI, mengingat produksinya OpenAI, perusahaan yang menciptakan ChatGPT. Omong-omong, "ibu" dari salah satu AI paling terkenal saat itu menerima investasi 10 miliar dolar dari Microsoft. Secara bersamaan, perusahaan yang dibuat oleh Bill Gates ini menggunakan teknologi OpenAI di mesin pencarinya, the bing.

Bulan ini, kebetulan, Bill Gates bahkan menerbitkan a surat di mana dia membahas kemungkinan efek yang dapat dibawa oleh solusi AI ke masa depan. Google mempertahankan investasinya dalam kecerdasan buatan melalui Penyair, yang belum sepenuhnya tersedia untuk umum.

Kekhawatiran ahli tentang AI dan GPT-4

Meski sudah diperbaiki, alatnya GPT-4 itu masih memberikan hasil dengan beberapa halusinasi dan dapat melayani pengguna menggunakan bahasa yang berbahaya. Tetapi ada orang yang percaya bahwa jeda sebenarnya harus lebih memahami manfaat - dan bukan hanya bahaya teknologi AI. Ini adalah pandangan Peter Stone, seorang peneliti di University of Texas di Austin (AS).

“Saya pikir ada baiknya memiliki sedikit pengalaman tentang bagaimana [AI] dapat digunakan dengan benar atau tidak, sebelum melanjutkan untuk mengembangkan [teknologi] berikutnya. Ini seharusnya bukan perlombaan untuk menghasilkan model kecerdasan buatan baru dan merilisnya sebelum yang lain.”

Peter Stone

Berbeda dengan posisi tersebut, salah satu penandatangan, Emad Mostaque, pendiri perusahaan Stabilitas AI (didedikasikan untuk alat dengan kecerdasan buatan), mengatakan kepada Wired bahwa solusi AI adalah kemungkinan ancaman bagi keberadaan masyarakat. Dia juga mementingkan bagaimana investasi harus ditinjau, dengan lebih mempertimbangkan apa yang mungkin terjadi di masa depan perlombaan teknologi ini.

“Sudah waktunya untuk mengesampingkan prioritas komersial dan beristirahat demi kebaikan semua, lebih kepada penelitian daripada mengikuti perlombaan dengan masa depan yang tidak pasti.”

Emad Mostaque

Surat melawan AI: terjemahan lengkap

Menjeda Eksperimen AI Raksasa: Surat Terbuka

Kami menyarankan semua laboratorium kecerdasan buatan (AI) untuk segera menghentikan pelatihan pada sistem AI yang lebih kuat dari GPT-4 setidaknya selama enam bulan

Sistem AI dengan kecerdasan yang mampu bersaing dengan manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan, sebagaimana dibuktikan oleh penelitian ekstensif Universitas Cornell, buku-buku tersebut Masalah Penjajaran (Brian Christian, 2020), Menjadi Manusia di Era Kecerdasan Buatan (Max Tegmark, 2017) dan oleh penelitian lain — tentang kemajuan di bidang ini, etika, dampak pada pasar kerja, risiko eksistensial — selain diakui oleh laboratorium AI terkenal. Sebagaimana dinyatakan dalam Prinsip AI Asilomar, "AI tingkat lanjut dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi, dan harus direncanakan serta dikelola dengan hati-hati dan dengan sumber daya yang sepadan." Sayangnya, tingkat perencanaan dan manajemen ini tidak terjadi, meskipun beberapa bulan terakhir laboratorium AI telah memulai perlombaan di luar kendali untuk mengembangkan dan memanfaatkan pikiran digital yang semakin kuat yang tidak dapat dipahami oleh siapa pun — bahkan pencipta mereka. , memprediksi, atau mengontrol dengan andal. 

Sekarang, sistem AI saat ini mampu bersaing dengan manusia dalam tugas secara umum, dan kita perlu bertanya pada diri sendiri: Kita harus biarkan mesin membanjiri saluran informasi kita dengan proselitisme dan kebohongan? Kita harus mengotomatiskan semua pekerjaan, termasuk yang memuaskan? Kita harus mengembangkan pikiran non-manusia sehingga pada akhirnya bisa melebihi jumlah dan kecerdasan kita, membuat kita usang dan menggantikan kita? Kita harus berisiko kehilangan kendali atas peradaban kita? Keputusan seperti itu tidak boleh didelegasikan kepada pemimpin teknologi yang tidak didukung. Sistem AI yang kuat hanya boleh dikembangkan jika kami yakin bahwa efeknya akan positif dan risikonya akan dikelola.. Ketergantungan ini harus dibenarkan dan ditingkatkan dengan baik dalam kaitannya dengan besarnya konsekuensi potensial sistem. Posisi OpenAI baru-baru ini pada kecerdasan buatan generatif menyatakan bahwa “pada titik tertentu, mungkin penting untuk memiliki tinjauan independen, sebelum mulai melatih sistem di masa mendatang, untuk upaya yang lebih maju, karena batas laju pertumbuhan komputasi yang digunakan untuk membuat model baru [dari AI]”. Kami setuju. Sekarang waktunya. 

Dengan demikian, Kami telah menyarankan semua laboratorium kecerdasan buatan (AI) untuk segera menghentikan pelatihan pada sistem AI yang lebih kuat dari GPT-4 setidaknya selama enam bulan. Jeda ini harus bersifat publik dan dapat diverifikasi, serta menyertakan semua aktor kunci. Jika jeda seperti itu tidak dapat diatur dengan cepat, para penguasa harus turun tangan dan melakukan penangguhan.

Laboratorium AI dan pakar independen harus menggunakan jeda ini untuk bersama-sama mengembangkan dan mengimplementasikan serangkaian protokol keamanan bersama untuk desain dan pengembangan AI tingkat lanjut, yang diaudit dan diverifikasi secara ketat oleh evaluator pihak ketiga. Protokol ini harus memastikan bahwa sistem yang diatur oleh standar ini aman tanpa keraguan — salah satu contohnya adalah Prinsip AI yang diadopsi secara luas oleh OECD, yang mengharuskan sistem AI untuk 'berfungsi dengan benar dan tidak menunjukkan risiko keamanan yang tidak dapat diandalkan' . Itu tidak itu berarti jeda dalam pengembangan AI secara umum, tetapi hanya keluar dari perlombaan berbahaya menuju model 'kotak hitam' yang tidak dapat diprediksi, semakin besar dan semakin besar dan dengan kemampuan yang muncul.  

Riset dan pengembangan AI harus fokus kembali untuk membuat sistem canggih canggih saat ini menjadi lebih akurat, aman, dapat ditafsirkan, transparan, kuat, selaras, andal, dan setia.

Secara paralel, pengembang AI harus bekerja dengan pembuat kebijakan secara tegas untuk mempercepat produksi sistem tata kelola AI yang ketat. Mereka harus mencakup, minimal: 

• otoritas pengatur baru dan mampu yang didedikasikan untuk kecerdasan buatan;
• verifikasi dan pemantauan sistem AI yang sangat kuat dengan kontribusi besar dalam kapasitas komputasi; 
• asal dan sistem branding untuk membantu membedakan nyata dari model sintetik pikiran digital, serta melacak kebocoran teknologi ini; 
• ekosistem sertifikasi dan audit yang berkembang pesat; 
• komitmen kerusakan dari sistem AI;
• pendanaan publik yang cukup kuat untuk penelitian teknis keamanan AI; Dia
• lembaga yang didanai dengan baik untuk menangani dampak ekonomi dan politik yang serius yang disebabkan oleh AI (terutama dalam kaitannya dengan demokrasi). 

Umat ​​manusia dapat menikmati masa depan yang subur dengan AI. Setelah berhasil menciptakan sistem AI yang kuat, kami sekarang dapat merayakan 'musim panas kecerdasan buatan', di mana kami menuai hasil, merekayasa sistem tersebut untuk keuntungan semua orang dan memberikan kesempatan kepada masyarakat untuk beradaptasi. Masyarakat telah 'menekan tombol jeda' pada teknologi lain dengan potensi efek bencana bagi semua orang — seperti kloning, egenetika, dan rekayasa genetika. Kita bisa melakukan hal yang sama di sini. Mari nikmati musim panas AI yang panjang, tidak terburu-buru menuju musim gugur.

Lihat juga:

Cara menggunakan Midjourney untuk membuat gambar bertenaga AI

Sumber: Kabel | Tech Crunch | Masa Depan Kehidupan | Deputi Berita Dunia

Diperiksa oleh Glaucon Vital pada 29/3/23.