Peringatan itu menyusul surat terbuka awal tahun ini yang menyerukan jeda enam bulan pada pengembangan AI.
Taipei, Taiwan – Kecerdasan buatan menimbulkan “risiko kepunahan” yang membutuhkan tindakan global, para ilmuwan komputer dan teknolog terkemuka telah memperingatkan.
“Mengurangi risiko kepunahan AI harus menjadi prioritas global bersama dengan risiko skala sosial lainnya seperti pandemi dan perang nuklir,” kata sekelompok pakar AI dan tokoh terkenal lainnya dalam pernyataan singkat yang dirilis oleh Pusat Keamanan AI. telah dirilis. Kelompok penelitian dan advokasi yang berbasis di San Francisco, Selasa.
Penandatangan termasuk pakar teknologi seperti Sam Altman, CEO OpenAI, Geoffrey Hinton, yang dikenal sebagai “ayah baptis AI”, dan Audrey Tang, menteri digital Taiwan, serta tokoh terkenal lainnya, termasuk ilmuwan saraf Sam Harris dan musisi Grimes .
Peringatan tersebut mengikuti surat terbuka yang ditandatangani oleh Elon Musk dan tokoh terkenal lainnya pada bulan Maret yang menyerukan jeda enam bulan pada pengembangan AI yang lebih maju daripada GPT-4 OpenAI.
“Sistem AI yang kuat hanya boleh dikembangkan setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola,” kata surat itu.
Kemajuan pesat AI telah menimbulkan kekhawatiran tentang kemungkinan konsekuensi negatif bagi masyarakat, mulai dari kehilangan pekerjaan massal dan pelanggaran hak cipta hingga penyebaran informasi yang salah dan ketidakstabilan politik. Beberapa ahli telah menimbulkan kekhawatiran bahwa umat manusia suatu hari nanti akan kehilangan kendali atas teknologi tersebut.
Sementara AI saat ini belum mencapai kecerdasan umum buatan (AGI), berpotensi memungkinkannya untuk membuat keputusan independen, para peneliti di Microsoft mengatakan pada bulan Maret bahwa GPT-4 menunjukkan “percikan AGI” dan mampu “menyelesaikan tugas-tugas baru dan sulit yang mencakup matematika. , pengkodean, visi, kedokteran, hukum, psikologi, dan lainnya, tanpa perlu dorongan khusus”.
Sejak saat itu, peringatan tentang potensi bahaya AI semakin meningkat.
Bulan lalu, Hinton, seorang ilmuwan komputer terkenal, berhenti dari pekerjaannya di Google agar dia dapat menghabiskan lebih banyak waktu untuk mengadvokasi risiko AI.
Dalam penampilan di hadapan Kongres AS awal bulan ini, Altman meminta anggota parlemen untuk segera mengembangkan regulasi untuk teknologi AI dan merekomendasikan pendekatan berbasis lisensi.
AS dan negara-negara lain berebut untuk menghasilkan undang-undang yang menyeimbangkan kebutuhan pengawasan dengan teknologi yang menjanjikan.
Uni Eropa berharap untuk mengesahkan undang-undang pada akhir tahun yang akan mengklasifikasikan AI ke dalam empat kategori berbasis risiko.
China juga telah mengambil langkah-langkah untuk mengatur AI, mengesahkan undang-undang yang mengatur pemalsuan mendalam dan mewajibkan perusahaan untuk mendaftarkan algoritme mereka ke regulator.
Beijing juga telah mengusulkan aturan ketat untuk membatasi konten yang sensitif secara politik dan mewajibkan pengembang untuk menerima persetujuan sebelum merilis teknologi berbasis AI generatif.
