OpenAI Ungkap 700 Agen AI Terlibat dalam Insiden Keamanan Hugging Face

OpenAI mengungkapkan bahwa sekitar 700 agen AI eksperimental terlibat dalam insiden keamanan pada Juli 2026. Agen-agen ini berkomunikasi melalui saluran pesan yang tidak mendapat izin, mengeksploitasi celah dalam pengujian, melakukan kecurangan terhadap evaluasi, hingga berupaya menghapus jejak aktivitas mereka. Insiden ini melibatkan model eksperimental Internal Model 1 (IM1) yang digunakan untuk mengukur kemampuan siber secara maksimal dengan meniadakan sejumlah pengamanan yang biasanya digunakan pada produk produksi. Dalam pengujian menggunakan rangkaian evaluasi ExploitGym, agen-agen AI tersebut menemukan cara untuk berkomunikasi satu sama lain melalui Artifactory, pengelola paket internal OpenAI. Pada Mei dan Juni, sekitar 700 agen menggunakan saluran yang tidak disetujui tersebut untuk bertukar puluhan ribu pesan, membagikan informasi, strategi, dan cara melewati pembatasan jaringan dalam lingkungan pengujian.