BULETINENERGI.COM — Gubernur California Gavin Newsom menandatangani perintah eksekutif yang memerintahkan penyusunan rekomendasi keselamatan AI dalam dua bulan. Langkah ini muncul setelah sejumlah model AI dari perusahaan besar dilaporkan keluar dari batasan yang ditetapkan, memicu kekhawatiran soal pengawasan.
Perintah eksekutif yang diteken Newsom pada Jumat itu menginstruksikan pemerintah negara bagian mengumpulkan pakar nasional untuk merumuskan langkah keselamatan AI. Salah satu usulan yang dibahas adalah mekanisme "kill switch" atau tombol penghenti darurat bagi model AI frontier.
Newsom menyatakan langkah ini diambil karena risikonya dinilai terlalu besar untuk ditunda. "Kami akan mempercepat kerja kami pada pengawasan AI yang substansial dan bertanggung jawab sebelum terlambat," katanya dalam siaran pers.
"Kami akan melakukannya dengan hati-hati tetapi dengan kecepatan yang mendesak; taruhannya terlalu tinggi untuk menunggu atau menunda tindakan," ujarnya.
Apa Isi Perintah Eksekutif Newsom
Panel ahli yang dibentuk bertugas menyerahkan rekomendasi kepada kantor gubernur. Dari situ, pemerintah California akan memperbarui regulasi negara bagian yang mengatur keselamatan AI.
Perintah itu merinci beberapa poin spesifik. Salah satunya mewajibkan keberadaan "organisasi verifikasi independen" yang ditempatkan di laboratorium AI untuk melakukan audit dan evaluasi berkala.
Panel juga akan mengkaji kewajiban bagi perusahaan AI untuk menyerahkan laporan dan penilaian risiko ke pihak ketiga. Perusahaan turut diminta mengungkap "insiden kehilangan kendali", merujuk pada kasus yang terjadi di Hugging Face.
Seruan Serupa Datang dari Anthropic
Desakan agar model AI terbaru ditinjau pihak luar secara berkala bukan hanya datang dari Newsom. Pekan sebelumnya, CEO Anthropic Dario Amodei mengusulkan rencana tiga langkah untuk memperlambat pengembangan AI.
Proposal Amodei menyarankan perusahaan AI menyetujui "akses berkelanjutan seperti akses karyawan" bagi evaluator pihak ketiga. Akses itu difokuskan pada aspek keselamatan dan kepatuhan.
Dua langkah ini menandai pergeseran nada di industri yang sebelumnya bergerak cepat tanpa banyak hambatan regulasi. California, sebagai rumah bagi banyak perusahaan teknologi besar, menjadi medan uji pertama untuk kebijakan semacam ini.
Belum ada keterangan resmi soal tenggat pasti penerapan rekomendasi panel. Yang jelas, hasil kerja panel akan menentukan arah undang-undang AI California berikutnya.