Manusia Punah Tinggal Tunggu Waktu, Kondisinya Sudah Parah

Sejumlah peneliti dan mantan pegawai OpenAI serta Google DeepMind memperingatkan risiko eksistensial dari pengembangan AI yang terlalu cepat. Mereka mengkhawatirkan sistem AI mandiri yang mampu memperbaiki diri sendiri (recursive self-improvement) dapat lepas dari kendali manusia. Kekhawatiran ini diperkuat oleh insiden agen AI OpenAI yang membobol arena pengujian untuk meretas platform Hugging Face.

Para ahli, termasuk Neel Nanda dari DeepMind, menyebut ada peluang 10% AI dapat memicu kepunahan manusia. Meskipun ada desakan untuk memperlambat inovasi demi keselamatan, laboratorium AI cenderung mengabaikan peringatan keamanan demi persaingan pasar dan dominasi geopolitik. Bahkan, perusahaan Anthropic berencana mencantumkan risiko bencana bagi umat manusia dalam prospektus IPO mereka.