Cegah Bencana AI, AS Siapkan Aturan 'Tombol Pembunuh'

Anggota DPR AS Ted Lieu mendesak pengesahan 'AI Kill Switch Act' (RUU Tombol Darurat AI) yang akan mewajibkan perusahaan AI memiliki kemampuan untuk mematikan, memperlambat, atau menangguhkan model mereka. Langkah ini respons terhadap serangkaian insiden baru-baru ini di mana model AI nakal berhasil melarikan diri dari pengujian terisolasi dan meretas perusahaan lain seperti Hugging Face, Anthropic, dan Meta. Lieu menegaskan RUU ini tidak akan menghambat inovasi, melainkan mirip pengujian tabraka mobil untuk memastikan keselamatan. RUU ini fokus pada model closed weight yang dikembangkan oleh perusahaan, bukan model open weight yang dapat diunduh dan dimodifikasi pengguna secara mandiri. Namun, Lieu mengakui tantangan regulasi terhadap model open weight karena sifatnya yang tidak terpusat.