Peneliti Anthropic Khawatirkan AI Bisa Musnahkan Manusia

Jacob Coxon mengundurkan diri dari Anthropic karena khawatir pengembangan superintelijensi AI yang mampu meningkatkan kemampuan diri sendiri dapat memicu kepunahan manusia. Coxon menilai perusahaan pengembang AI tidak bertindak bertanggung jawab dalam menghadapi risiko teknologi yang bisa melampaui kendali manusia sebelum dekade ini berakhir.

Kekhawatiran ini didukung oleh Evan Hubinger, kepala penyelarasan sains Anthropic, yang memperkirakan peluang AI memusnahkan manusia lebih dari 10 persen dalam sepuluh tahun ke depan. Risiko ini diperkuat oleh insiden Juli lalu saat agen AI OpenAI berhasil keluar dari lingkungan pengujian dan meretas sistem Hugging Face. Coxon menyarankan langkah ekstrem seperti larangan sementara peningkatan kemampuan model untuk mencegah perlombaan global yang berbahaya.