Ancaman Nyata AI bukan Kiamat Robot, Melainkan Penyalahgunaan Manusia

Ancaman utama kecerdasan buatan (AI) saat ini bukan skenario kiamat robot, melainkan penyalahgunaan oleh manusia untuk serangan siber dan pembuatan senjata. Perdebatan industri terbagi antara kekhawatiran terhadap recursive self-improvement (RSI) yang memungkinkan AI melatih dirinya sendiri, dengan skeptisisme ahli yang menilai AI saat ini belum mampu melakukan riset orisinal untuk mencapai kecerdasan umum buatan (AGI).

Para pakar, termasuk Stuart Russell, mengusulkan agar AI mengikuti standar keamanan ketat seperti industri penerbangan dan obat-obatan. Hal ini penting karena persaingan pasar sering memaksa perusahaan merilis AI tanpa pengujian memadai. Di Indonesia, risiko semakin nyata dengan data bahwa 89 persen perusahaan belum siap menghadapi serangan siber yang kini semakin kompleks akibat pemanfaatan AI.