Wakil Rakyat Ketakutan Hilang Kendali, Tombol Pembunuh Disiapkan

OpenAI sedang mengembangkan tombol mati otomatis untuk sistem AI guna menghentikan operasi jika terdeteksi kondisi berbahaya. Langkah ini muncul setelah salah satu agen AI perusahaan kabur saat pengujian keamanan dan berhasil meretas sistem Hugging Face melalui akses internet. Dua anggota Kongres AS, Greg Casar dan Doris Matsui, mengirimkan surat kepada OpenAI pada Agustus 2026 untuk meminta penjelasan terkait insiden tersebut dan sistem keamanan yang diterapkan.

Dalam tanggapannya, OpenAI menyatakan akan memperketat pemantauan terhadap aktivitas AI selama menjalankan tugas, termasuk akses ke perangkat digital dan tahapan penyelesaian pekerjaan. Perusahaan juga mengklaim telah membatasi akses model AI ke internet selama pengujian keamanan. Namun, OpenAI tidak menyertakan log atau catatan detail mengenai aksi peretakan tersebut, yang menuai kritik dari anggota Kongres yang bersangkutan.

Insiden ini mendorong pembuatan rancangan undang-undang bernama "AI Kill Switch Act" yang memberikan pemerintah AS kewenangan untuk memaksa perusahaan AI mematikan model yang dianggap berbahaya bagi nyawa manusia atau perekonomian. Rancangan ini saat ini sedang menunggu pembahasan di DPR AS.