Bos Anthropic Minta Ada 'Tombol Mati' untuk AI Berbahaya

Jack Clark, pendiri Anthropic, menyatakan perusahaan AI mungkin perlu diwajibkan memiliki 'kill switch' untuk mematikan sistem AI yang menjadi terlalu berbahaya. Ia menekankan mekanisme ini harus diuji oleh pihak ketiga agar dapat digunakan saat dibutuhkan. Gagasan ini muncul di tengah kekhawatiran perkembangan AI yang cepat, diikuti pernyataan Dario Amodei tentang pengawasan yang lebih ketat. Evan Hubinger mengperkirakan risiko kepunahan manusia oleh AI lebih dari 10% dalam satu dekade, yang dianggap masuk akal oleh Geoffrey Hinton. Amerika Serikat mengusulkan Kill Switch Act untuk mewajibkan perusahaan AI memiliki cara mematikan sistem yang bermasalah.