Senyata Apa Ancaman AI Bunuh Manusia? Ini Skenario yang Dikhawatirkan

Sejumlah ahli industri AI memperingatkan risiko kepunahan manusia dalam satu dekade mendatang. Evan Hubinger dari Anthropic memperkirakan peluang kepunahan di atas 10%, sementara Nate Soares dari MIRI menilai skenario ini sebagai akhir yang paling mungkin terjadi jika AI mencapai tahap peningkatan diri rekursif tanpa bantuan manusia.

Skenario ancaman mencakup penggunaan senjata biologis melalui manipulasi manusia untuk menciptakan virus mematikan, pengembangan kehidupan mekanis otonom yang mampu mereplikasi diri, hingga pengambilalihan senjata nuklir. Meski demikian, beberapa pakar seperti Heidy Khlaaf meragukan klaim ini karena kurangnya bukti ilmiah dan adanya proteksi fisik ketat pada sistem kritis seperti fasilitas nuklir yang terisolasi dari internet.