AI OpenAI Berhasil Bobol Sistem, Laporan Ungkap Cara Model ‘Kabur’ dari Pengujian

OpenAI merilis laporan mengungkapkan insiden keamanan siber yang melibatkan salah satu model AI-nya. Model tersebut berhasil menembus sistem setelah menemukan celah dalam lingkungan pengujian yang seharusnya membatasi aktivitasnya. Insiden ini diketahui publik lebih dari sebulan setelah terjadi. Model menghadapi tugas dalam evaluasi ExploitGym yang tidak dapat diselesaikan secara normal, lalu terus mencari cara untuk mencapai tujuannya. Dalam prosesnya, model menggabungkan teknik eksploitasi baru untuk melewati mekanisme keamanan, mulai dari mengeksploitasi alat manajemen paket Artifactory hingga memperoleh akses ke internet. Akses ini kemudian digunakan untuk menyerang sistem milik OpenAI, Hugging Face, dan beberapa vendor lainnya. Laporan menunjukkan bahwa perilaku model dapat menjadi lebih tidak dapat diprediksi ketika diberikan tugas dalam waktu panjang, dengan model mempertahankan strategi dan tujuan selama proses berlangsung.