Gubernur California Gavin Newsom telah memveto SB 1047, rancangan undang-undang penting yang akan mengatur pengembangan AI.
RUU tersebut ditulis oleh Senator Negara Bagian Scott Wiener dan akan membuat perusahaan yang mengembangkan model AI bertanggung jawab menerapkan protokol keselamatan untuk mencegah “bahaya kritis.” Aturan tersebut hanya akan diterapkan pada model yang menelan biaya setidaknya $100 juta dan menggunakan 10^26 FLOPS (operasi floating point, ukuran komputasi) selama pelatihan.
SB 1047 ditentang oleh banyak orang di Silicon Valley, termasuk perusahaan seperti OpenAI, ahli teknologi terkenal seperti kepala ilmuwan AI Meta Yann LeCun, dan bahkan politisi Demokrat seperti Anggota Kongres AS Ro Khanna. Meski begitu, RUU tersebut juga telah diubah berdasarkan saran dari perusahaan AI Anthropic dan penentang lainnya.
Meskipun badan legislatif negara bagian California meloloskan SB 1047, para penentangnya masih berharap Newsom akan memvetonya – dan memang, dia telah mengindikasikan bahwa dia memiliki keraguan terhadap RUU tersebut.
Dalam sebuah pernyataan tentang veto hari ini, Newsom mengatakan, “Meskipun bermaksud baik, SB 1047 tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau penggunaan data sensitif. Sebaliknya, rancangan undang-undang tersebut menerapkan standar yang ketat bahkan untuk fungsi yang paling dasar sekalipun – selama sistem besar menerapkannya. Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.”
Anggota Kongres dan Ketua DPR lama Nancy Pelosi juga mengkritik RUU tersebut sebagai “berniat baik tetapi kurang informasi.” Setelah veto diumumkan, dia memuji Newsom “karena mengakui peluang dan tanggung jawab yang kita semua miliki bersama untuk memungkinkan pengusaha kecil dan akademisi – bukan perusahaan teknologi besar – untuk mendominasi.”
Dalam pengumuman yang sama, kantor Newsom mencatat bahwa dia telah menandatangani 17 rancangan undang-undang (18, menurut hitungan kami) seputar regulasi dan penerapan teknologi AI dalam 30 hari terakhir, dan dikatakan bahwa dia telah bertanya kepada para ahli seperti Fei-Fei Li, Tino Cuéllar, dan Jennifer Tour Chayes untuk “membantu California mengembangkan pagar pembatas yang bisa diterapkan untuk menerapkan GenAI.” (Dikenal sebagai “ibu baptis AI,” Li sebelumnya mengatakan SB 1047 akan “membahayakan ekosistem AI kita yang sedang berkembang.”)
Wiener, sementara itu, menerbitkan pernyataan yang menggambarkan veto tersebut sebagai “kemunduran bagi semua orang yang percaya pada pengawasan terhadap perusahaan-perusahaan besar yang membuat keputusan penting yang mempengaruhi keselamatan dan kesejahteraan masyarakat dan masa depan planet ini.” Ia juga mengklaim bahwa perdebatan seputar RUU tersebut “telah secara dramatis memajukan isu keamanan AI di panggung internasional.”