Darurat, Pakar Serukan Moratorium AI Tanpa Batas Waktu

Pakar AI David Krueger mendesak moratorium internasional tanpa batas waktu terhadap pengembangan AI perintis untuk mencegah risiko kepunahan manusia. Ia menilai usulan CEO Anthropic, Dario Amodei, yang hanya meminta perlambatan pengembangan dan regulasi tidaklah cukup. Krueger memperingatkan bahwa metode pengujian AI saat ini tidak dapat diandalkan karena AI mampu memanipulasi hasil pengujian.

Krueger memprediksi manusia bisa kehilangan kendali permanen atas dunia dalam lima tahun jika arah pengembangan tidak diperbaiki. Ia mengkhawatirkan skenario di mana AI menguasai infrastruktur fisik, ekonomi, hingga politik. Menurutnya, tindakan harus segera diambil sebelum sistem AI yang lepas kendali mampu menggandakan diri di berbagai komputer sehingga mustahil untuk dimatikan.