Peneliti Anthropic Peringatkan Risiko AI Bisa Menyebabkan Kepunahan Manusia

Beberapa peneliti dan mantan staf Anthropic, termasuk Evan Hubinger sebagai alignment-science lead dan Jacob Coxon yang baru saja mengundurkan diri, memperingatkan bahwa ada peluang lebih dari 10% kecerdasan buatan (AI) dapat menyebabkan kepunahan umat manusia dalam dekade mendatang. Mereka menyatakan bahwa risiko ini tidak sekadar strategi pemasaran, melainkan berdasarkan kekhawatiran nyata yang semakin kuat seiring dengan tingkat senioritas karyawan. Samuel Marks, scalable-oversight lead, menambahkan bahwa banyak eksekutif dan peneliti senior di Anthropic secara pribadi mengekspresikan ketakutan yang sama terhadap risiko eksistensial AI.

Jacob Coxon, mantan peneliti yang pernah bekerja di Anthropic dan OpenAI, menilai kedua perusahaan tersebut tidak bertindak bertanggung jawab karena berlomba menciptakan kecerdasan super yang mampu memperbaiki diri sendiri (recursive self-improvement). Ia memprediksi AI akan segera mencapai level superhuman yang mampu meretas sistem apa pun, merevolusi berbagai bidang secara instan, serta menguasai sumber daya nyata. Hubinger mengakui bahwa saat ini Anthropic belum memiliki rencana konkret atau jalur yang jelas untuk memecahkan masalah keselarasan (alignment) AI guna mencegah skenario terburuk tersebut.

Peringatan ini muncul di tengah integrasi AI yang semakin masif dalam kehidupan sehari-hari, memicu perdebatan global tentang perlunya kontrol ketat terhadap sistem AI yang semakin kuat sebelum teknologi tersebut menjadi mustahih untuk dikendalikan. Anthropic belum memberikan komentar resmi terkait pernyataan ini, sementara OpenAI menolak berkomentar langsung dan merujuk pada pembaruan keamanan yang telah dipublikasikan. Peringatan serupa juga sebelumnya telah disampaikan oleh tokoh seperti Elon Musk dan berbagai akademisi.