Ilmuwan Peringatkan AI Bisa Picu Kepunahan Manusia

Sejumlah mantan dan karyawan staf Anthropic, termasuk Jacob Coxon, memberikan peringatan bahwa pengembangan AI yang cepat berpotensi menyebabkan kepunahan manusia. Coxon mengungkapkan kekhawatirannya melalui unggahan di X (dulunya Twitter), yang kemudian viral dan ditonton lebih dari 136 juta kali. Ia menyatakan bahwa para pengembang AI meyakini teknologi ini dapat melampaui kemampuan manusia dan menguasai sumber daya nyata dalam waktu dekat.

Evan Hubinger, pimpinan tim penyelarasan di Anthropic, mendukung pernyataan Coxon dan memperkirakan peluang AI menyebabkan kepunahan manusia lebih dari 10 persen dalam sepuluh tahun ke depan. Ia juga mengakui bahwa meskipun Anthropic telah berusaha, belum ada rencana pasti untuk menyelesaikan masalah penyelarasan pada superintelligence.

Peringatan ini mencerminkan kekhawatiran luas di kalangan peneliti dan akademisi tentang risiko AI. Pada 2023, para pemimpin seperti Sam Altman dan Dario Amodei menandatangani pernyataan bersama yang menekankan pentingnya menekan risiko kepunahan akibat AI, setara dengan ancaman pandemi atau perang nuklir. Istilah p(doom) juga muncul sebagai tolok ukur untuk mengukur kemungkinan skenario terburuk.