Elon Musk, pendiri Apple Steve Wozniak, pendiri Skype Jaan Tallinn, peneliti AI terkemuka Stuart Russel, sampai penulis Yuval Noah Harari, cemas terhadap perkembangan pesat AI yang mungkin takkan terkendali. Mereka pun menulis surat terbuka agar AI tidak dibiarkan begitu saja.

Surat terbuka itu dibut oleh lembaga non profit Future of Life Institute dan ditandatangani 1.000 sosok terkemuka di bidangnya. Begini bunyinya seperti dikutip detikINET, Jumat (31/3/2023):

Sistem AI dengan kecerdasan menandingi manusia dapat menimbulkan risiko besar pada masyarakat dan kemanusiaan, seperti yang ditunjukkan oleh penelitian ekstensif dan diakui laboratorium AI terkemuka.

-

-

Sebagaimana dinyatakan dalam Asilomar AI Principles yang didukung secara luas, AI canggih dapat menghadirkan perubahan besar dalam sejarah kehidupan di Bumi dan harus direncanakan dan dikelola dengan perawatan dan sumber daya yang sepadan.

Sayang, tingkat perencanaan dan manajemen ini tak terjadi, walau beberapa bulan terakhir laboratorium AI terkunci dalam perlombaan di luar kendali untuk mengembangkan dan menerapkan pikiran digital yang semakin kuat yang siapa pun, bahkan pembuatnya, tidak dapat memprediksi, memahami atau mengontrol secara andal.

Sistem AI kontemporer kini menandingi manusia dalam tugas-tugas umum dan kita harus bertanya ke diri sendiri: Haruskah kita membiarkan mesin membanjiri saluran informasi kita dengan propaganda dan kebohongan? Haruskah kita mengotomatiskan semua pekerjaan? Haruskah kita mengembangkan pikiran bukan manusia yang pada akhirnya mungkin mengakali dan menggantikan kita? Haruskah kita mengambil risiko hilang kendali atas peradaban kita?

Keputusan seperti itu tak boleh didelegasikan kepada pemimpin teknologi yang tak dipilih. Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola.

Pernyataan OpenAI baru-baru ini tentang kecerdasan umum buatan, menyatakan bahwa "Di titik tertentu, mungkin penting untuk mendapat tinjauan independen sebelum mulai melatih sistem di masa depan, dan untuk membatasi laju pertumbuhan komputasi yang digunakan untuk membuat model yang baru." Kami setuju.

Oleh karena itu, kami mengimbau semua lab AI untuk segera menghentikan sementara pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama 6 bulan. Jeda ini harus bersifat publik dan dapat diverifikasi, serta menyertakan semua aktor utama. Jika jeda seperti itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.

Laboratorium AI dan pakar independen harus menggunakan jeda ini untuk bersama mengembangkan dan menerapkan serangkaian protokol keselamatan bersama untuk desain dan pengembangan AI tingkat lanjut yang diaudit secara ketat dan diawasi pakar luar independen.

Protokol ini harus memastikan bahwa sistem aman tanpa keraguan. Hal ini tidak berarti jeda pada pengembangan AI secara umum, hanya langkah mundur dari perlombaan berbahaya.

Penelitian dan pengembangan AI harus difokuskan kembali untuk membuat sistem yang kuat dan canggih saat ini menjadi lebih akurat, aman, dapat ditafsirkan, transparan, kuat, selaras, dapat dipercaya, dan loyal.

Secara paralel, pengembang AI harus bekerja dengan pembuat kebijakan untuk secara dramatis mempercepat pengembangan sistem tata kelola AI yang kuat.

Umat manusia dapat menikmati masa depan yang berkembang dengan AI. Setelah berhasil menciptakan sistem AI yang kuat, kini kita dapat menikmati 'musim panas AI' di mana kita menuai hasilnya, merekayasa sistem ini untuk keuntungan semua orang, dan memberikan kesempatan kepada masyarakat untuk beradaptasi.

Masyarakat telah menghentikan teknologi lain dengan efek yang berpotensi bencana pada masyarakat. Kita bisa melakukannya di sini. Mari nikmati 'musim panas' AI yang panjang, jangan terburu-buru tanpa persiapan menuju 'musim gugur'.

Simak Video "Minta Pengembangan AI Dijeda, Elon Musk Dinilai Munafik"
[-]
(fyk/fay)