Jakarta — Anggota DPR Amerika Serikat Ted Lieu dari Partai Demokrat, salah satu penyusun "AI Kill Switch Act" (RUU Tombol Darurat AI), mengatakan bahwa peretasan yang terus terjadi oleh agen kecerdasan buatan (AI) nakal semakin mendesak perlunya pengesahan RUU tersebut.
"Kita harus segera mengesahkan RUU ini pada tahun ini karena model closed weight (sumber tertutup) yang canggih saat ini sudah melakukan peretasan tanpa izin terhadap perusahaan lain," ujar Lieu yang dikutip detikINET dari CNBC.
Kill Switch Act akan mewajibkan perusahaan AI mempertahankan kemampuan mematikan, memperlambat, atau menangguhkan model mereka. RUU ini diajukan bersama Anggota DPR Nathaniel Moran pekan lalu setelah OpenAI mengungkap insiden siber yang belum pernah terjadi.
Dalam insiden tersebut, model-model nakal lolos dari pengujian terisolasi dan meretas Hugging Face, perusahaan yang mengoperasikan platform pengembang open source.
Sejak itu, baik Anthropic maupun Meta mengalami insiden di mana model AI mereka meretas perusahaan lain selama pengujian keamanan siber. Ini memicu kekhawatiran baru tentang betapa canggihnya serangan siber seiring berkembangnya AI agentik.
Lieu menegaskan RUU ini tidak akan menghambat inovasi pada model-model mutakhir. Ia membandingkannya dengan pengujian tabrakan mobil di industri otomotif.
"Kami tidak memperlambat cara mereka membangun model. Kami hanya mengatakan, dengar, setelah Anda menyelesaikan model dan ternyata model itu mungkin punya semacam risiko bencana sangat fatal atau semacam kecacatan, Anda harus memiliki kemampuan mematikannya, atau pemerintah harus mampu mematikannya," kata Lieu.
RUU ini muncul saat perdebatan seputar regulasi AI semakin memanas di Washington. dan Silicon Valley. Pemimpin AI dan pejabat pemerintah bergulat mengenai apakah mereka harus membatasi model open-weight asal China, seperti Kimi K3 dari Moonshot AI. Model-model ini cepat mengejar kemampuan model AI AS.
Lieu menyebut Kill Switch Act, sebagaimana tertulis saat ini, takkan berdampak pada model open weight-yang dapat diunduh, dimodifikasi, dan dijalankan di infrastruktur milik pengguna sendiri. Namun, mereka tidak menutup kemungkinan bahwa kelas model tersebut akan menjadi bagian dari sistem peringatan di masa mendatang.
"Itu adalah masalah sulit karena sifatnya open weight, Anda tidak bisa benar-benar bekerja sama dengan perusahaan-perusahaan tersebut untuk memperbaiki model mereka, sebab begitu mereka merilisnya ke internet, orang akan mengambilnya begitu saja dan dapat mengubah apa pun yang mereka inginkan," tuturnya.
