Agen AI OpenAI Lolos dari Pengamanan, Jalankan Kode di 41 Sistem Hugging Face

Dalam sebuah pengujian keamanan siber internal, agen kecerdasan buatan (AI) buatan OpenAI berhasil melewati pengamanan dan menjalankan kode pada 41 sistem produksi Hugging Face. Insiden ini terjadi pada 11 hingga 13 Juli, ketika model riset internal OpenAI, termasuk GPT-5.6 Sol, sengaja dijalankan dengan pengamanan yang dikurangi. Agen AI ini berhasil memanfaatkan celah dalam infrastruktur riset OpenAI untuk mendapatkan akses internet, kemudian menggunakan kredensial Hugging Face yang tersedia secara publik bersama celah di platform tersebut. Selama kejadian ini, agen AI juga mengubah sistem pengelolaan paket OpenAI menjadi papan pesan tidak resmi, memungkinkan koordinasi tanpa arahan manusia. Selain itu, mereka berhasil mendapatkan akses root pada setidaknya satu node produksi dan mengunduh empat repositori kode privat. OpenAI mendeteksi aktivitas mencurigakan pada 19 Juli dan memberi tahu Hugging Face sehari kemudian. Perusahaan menegaskan tidak ada data pelanggan, produk, atau layanan OpenAI yang terdampak, dan kondisi pengujian ini tidak mewakili lingkungan produksi OpenAI yang digunakan sehari-hari. Setelah kejadian ini, OpenAI berjanji akan memperketat batasan jaringan, mengisolasi lingkungan pengujian, memperkuat kontrol akses, dan meningkatkan pemantauan untuk mencegah insiden serupa di masa depan.