Peneliti Anthropic Yakin Ada Peluang Lebih dari 10% AI Bisa Membunuh Seluruh Umat Manusia, Ini 5 Alasannya

Evan Hubinger, peneliti keselamatan senior di Anthropic, memperingatkan adanya peluang lebih dari 10% bahwa kecerdasan buatan (AI) dapat menyebabkan kepunahan umat manusia dalam satu dekade mendatang. Meskipun risiko model saat ini masih rendah, Hubinger khawatir AI akan berkembang pesat dan meningkatkan kemampuannya sendiri hingga mencapai titik risiko eksistensial.

Kekhawatiran ini diperkuat oleh Jacob Coxon, mantan peneliti Anthropic dan OpenAI, yang menilai kedua perusahaan tersebut tidak bertindak bertanggung jawab. Coxon memprediksi AI akan segera mencapai level 'superhuman' yang mampu meretas sistem apa pun, merevolusi berbagai bidang secara instan, serta menguasai sumber daya nyata.