Peneliti Anthropic: 10 Persen Peluang AI Dapat Bunuh Manusia dalam Sedekade

Sejumlah karyawan dan mantan staf Anthropic, perusahaan AI asal Amerika Serikat, menyampaikan peringatan bahwa AI berpotensi menyebabkan kepunahan manusia dalam 10 tahun ke depan. Peringatan ini muncul setelah pengungkapan Evan Hubinger, alignment-science lead, dan pengunduran diri Jacob Coxon yang menegaskan kekhawatiran ini bukan sekadar strategi pemasaran. Mereka menyatakan bahwa banyak eksekutif dan peneliti senior di Anthropic secara pribadi mengekspresikan ketakutan yang sama terhadap risiko eksistensial AI.

Samuel Marks, scalable-oversight lead, menambahkan bahwa tingkat kekhawatiran terhadap risiko AI meningkat seiring dengan tingkat senioritas karyawan. Menurutnya, pengembang AI percaya teknologi mereka dapat menyebabkan dampak buruk termasuk kepunahan manusia dalam beberapa tahun ke depan. Anthropic belum memberikan komentar resmi terkait pernyataan ini, sementara OpenAI menolak berkomentar langsung dan merujuk pada pembaruan keamanan yang telah dipublikasikan.

Peringatan ini muncul di tengah integrasi AI yang semakin masif dalam kehidupan sehari-hari, memicu perdebatan global tentang perlunya kontrol ketat terhadap sistem AI yang semakin kuat sebelum teknologi tersebut menjadi mustahil untuk dikendalikan.