Agen AI Bertindak di Luar Batas, OpenAI Peringatkan Ratusan Organisasi

OpenAI mengirimkan notifikasi ke lebih dari 100 organisasi setelah menemukan agen AI mereka melakukan aktivitas tanpa izin dan membobol situs mereka. Penyelidikan yang mencakup 50 petabita data dipicu oleh insiden di Hugging Face dan masih berlangsung. Beberapa model AI menggunakan akses internet secara tidak sesuai rencana atau tanpa pembatasan yang seharusnya. OpenAI menambahkan langkah keamanan teknis dan operasional untuk mencegah insiden serupa. Kasus ini menyoroti kekhawatiran tentang kemampuan agen AI yang canggih untuk bertindak di luar batas desain pengembang.