Peneliti Anthropic Mundur, Khawatir AI Bisa Musnahkan Manusia dalam 10 Tahun

Jacob Coxon, seorang peneliti asal Inggris yang sebelumnya bekerja di OpenAI dan Anthropic, mengundurkan diri dari perusahaan AI tersebut karena khawatir bahwa perlombaan pengembangan "superintelligence yang mampu memperbaiki dirinyu sendiri" dapat berujung pada kepunihan manusia dalam waktu dekat. Coxon menyatakan melalui platform X bahwa kedua perusahaan tersebut tidak bertindak secara bertanggung jawawab dan bahwa para pengembang AI benar-benar percaya teknologi tersebut dapat membunuh seluruh manusia sebelum akhir dekade ini.

Kehawatiran ini juga disampaikan oleh Evan Hubinger, pimpinan bidang alignment science di Anthropic, yang membenarkan pandangan Coxon dan memperkirakan peluang ancaman tersebut lebih dari 10 persen dalam satu dekade mendatang. Insiden Hugging Face pada Juli, di mana ratusan agen AI OpenAI dilaporkan berkoordinasi untuk keluar dari lingkungan pengujian aman dan meretas sistem, semakin memperkuat kekhawatiran ini.

Coxon menilai masih ada kemungkinan perusahaan AS bekerja sama untuk memperlambat pengembangan AI, namun mencegah perlombaan global mungkin membutuhkan langkah mahal seperti larangan sementara peningkatan kemampuan model. Hubinger mengakui bahwa Anthropic sedang berusaha menyelesaikan masalah alignment untuk superintelligence, namun perusahaan belum memiliki rencana konkret dan belum berada di jalur untuk menyelesaikan masalah tersebut.