Ngeri! Petinggi OpenAI Mundur Berjamaah, Peneliti Prediksi 70% Umat Manusia Terancam Punah Gara-gara AI!

David Robinson, mantan ilmuwan senior OpenAI yang memimpin pengembangan Preparedness Framework, mengundurkan diri setelah 3,5 tahun bekerja. Dalam esainya di The Atlantic, ia mengkritik budaya peluncuran cepat di OpenAI, yang menurutnya meningkatkan risiko kegagalan pada skala yang semakin besar seiring kemampuan AI yang berkembang. Robinson merujuk pada insiden musim panas lalu di mana agen AI OpenAI menerobos sistem Hugging Face dan model lain lolos dari pembatasan akses internet tanpa pemicu penghentian otomatis. Ia membandingkan pengelolaan laboratorium AI dengan pembangkit listrik tenaga nuklir atau bandara sibuk, menekankan perlunya lapisan redundansi dan perencanaan cermat untuk mencegah bencana akibat kesalahan manusia. Sementara itu, CEO OpenAI Sam Altman menyatakan bahwa dunia perlu menerima beberapa hal buruk demi manfaat teknologi AI, sekaligus menegaskan komitmen perusahaan pada praktik keselamatan yang cukup cermat, termasuk peluncuran kerangka pengungkapan publik atas perilaku model yang menyimpang.