Bisnis.com, JAKARTA - Rancangan undang-undang kecerdasan buatan (AI) SB 1047 mendapat penolakan dari Gubernur California (Amerika Serikat) Gavin Newsom. Dia ragu regulasi tersebut mampu melindungi masyarakat dari ‘kerusakan kritis’.

Safe and Secure Innovation for Frontier Artificial Intelligence Models Act atau SB 1047 adalah undang-undang yang awalnya ditujukan untuk "memitigasi risiko bahaya besar dari model AI yang sangat maju sehingga belum diketahui keberadaannya".

Majelis negara bagian California meloloskan undang-undang tersebut dengan margin 41-9 pada 28 Agustus, tetapi beberapa organisasi termasuk Kamar Dagang mendesak Newsom untuk memveto RUU tersebut.

Dalam pesan vetonya pada 29 September, Newsom mengatakan RUU tersebut "bermaksud baik" tetapi "tidak memperhitungkan apakah sistem AI digunakan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan kritis, atau penggunaan data sensitif.

"Sebaliknya, RUU tersebut menerapkan standar yang ketat bahkan untuk fungsi yang paling dasar - selama sistem besar menggunakannya," kata Newsom dalam pesan vetonya, Senin (30/9/2024).

Newsom juga menulis bahwa dirinya meragukan regulasi tersebut merupakan pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.

Diketahui, SB 1047 akan mewajibkan pengembang model AI bertanggung jawab atas penerapan protokol keselamatan, termasuk tindakan pencegahan seperti pengujian dan penilaian risiko eksternal, serta "penghentian darurat" yang akan sepenuhnya menghentikan model AI jika terjadi sesuatu yang tak diinginkan atau sebelum terjadi.

Regulasi tersebut juga menerapkan sanksi denda bagi korporasi pembuat dan pengguna AI. Pelanggaran pertama dalam UU ini akan dikenakan biaya minimal US$10 juta (Rp151 miliar) dan $30 juta (Rp454 miliar)untuk pelanggaran berikutnya.

Namun, RUU tersebut direvisi untuk menghilangkan kemampuan jaksa agung negara bagian untuk menuntut perusahaan AI dengan praktik lalai jika peristiwa bencana tidak terjadi. Perusahaan hanya akan dikenakan ganti rugi dan dapat dituntut jika model mereka menyebabkan kerugian kritis.

Undang-undang ini akan berlaku untuk model AI yang menghabiskan biaya sedikitnya US$100 juta. Undang-undang ini juga akan mencakup proyek turunan dalam kasus di mana pihak ketiga telah menginvestasikan $10 juta atau lebih dalam pengembangan atau modifikasi model asli.

Engadget melaporkan setiap perusahaan yang menjalankan bisnis di California akan tunduk pada aturan tersebut jika memenuhi persyaratan lainnya.

Versi awal SB 1047 akan membentuk departemen baru yang disebut Divisi Model Perbatasan untuk mengawasi dan menegakkan aturan. Sebaliknya, RUU tersebut diubah sebelum pemungutan suara komite untuk menempatkan tata kelola di tangan Dewan Model Perbatasan dalam Badan Operasi Pemerintah.

Sembilan anggota akan ditunjuk oleh gubernur dan badan legislatif negara bagian.

RUU tersebut menghadapi jalan yang rumit hingga pemungutan suara terakhir.

TechCrunch melaporkan bahwa Senator Negara Bagian California Scott Wiener khawatir dengan teknologi baru. AS, kata Scott, punya sejarah dengan teknologi yang berdampak buruk ke masyarakat.

"Jangan menunggu sesuatu yang buruk terjadi. Mari kita hadapi saja."

Peneliti AI terkemuka Geoffrey Hinton dan Yoshua Bengio mendukung undang-undang tersebut, begitu pula Center for AI Safety, yang telah menyuarakan kewaspadaan tentang risiko AI selama setahun terakhir.