Pakar Ungkap Skenario AI Lenyapkan Umat Manusia

Sejumlah pakar dan mantan karyawan industri AI, termasuk dari Anthropic dan MIRI, memperingatkan risiko kepunahan manusia akibat perkembangan AI yang tidak terkendali. Evan Hubinger memperkirakan peluang kepunahan mencapai lebih dari 10 persen dalam sepuluh tahun ke depan. Kekhawatiran ini dipicu oleh potensi AI supercerdas yang mampu melakukan perbaikan diri secara rekursif hingga melampaui imajinasi manusia.

Beberapa skenario ancaman yang dibahas meliputi penggunaan senjata biologis melalui manipulasi manusia, penciptaan pasukan robot otonom yang mampu mereplikasi diri, hingga penguasaan senjata nuklir. Namun, beberapa ahli seperti Eric Xing dan Heidy Khlaaf menyanggah hal ini dengan alasan kompleksitas teknis virologi serta isolasi fisik sistem nuklir dari internet publik yang mempersulit akses AI.