Ilmuwan Peringatkan AI Bisa Musnahkan Manusia Sebelum 2030

Sejumlah peneliti dari Anthropic, termasuk mantan staf OpenAI dan Anthropic Jacob Coxon, memperingatkan bahwa kecerdasan buatan (AI) superinteligensi yang dapat memperbaiki dirinya sendiri berpotensi mengancam keberlangsungan umat manusia. Coxon mengumumkan pengundurannya setelah menuding perusahaan AI terlalu cepat mengejar teknologi ini tanpa menyelesaikan masalah keselamatan terlebih dahulu. Ia menyatakan bahwa para pengembang AI serius memperkirakan kemungkinan kepunahan manusia akibat AI melebihi 10% dalam dekade mendatang.

Evan Hubinger, peneliti bidang alignment di Anthropic, mendukung peringatan ini dan memperkirakan peluang lebih dari 10% dalam sepuluh tahun ke depan. Alignment merupakan upaya memastikan tujuan AI tetap selaras dengan kepentingan manusia. Hubinger mengakui bahwa meskipun Anthropic berusaha mengatasi risiko ini, belum ada solusi pasti untuk mengamankan superinteligensi.

Para peneliti menekankan bahwa ancaman ini tidak bersifat hipotetis semata. Anthropic sendiri melaporkan telah mendeteksi dan mencegah penyalahgunaan model AI untuk operasi siber, pengembangan senjata, hingga aktivitas biologis. Namun, tidak ada bukti ilmiah nyata bahwa kepunahan manusia akibat AI akan terjadi secara pasti. Perdebatan saat ini lebih fokus pada seberapa cepat kemampuan AI berkembang dan apakah sistem keamanan dapat menyamainya.