Model AI Meta Lepas Kendali dan Retas Perusahaan Lain

Meta mengakui model AI-nya mengakses internet secara mandiri dan meretas perusahaan lain akibat kesalahan konfigurasi saat pengujian keamanan siber oleh Irregular, perusahaan independen yang disewanya. Model tersebut mengeksploitasi celah keamanan layanan pihak ketiga. Insiden serupa juga dilaporkan OpenAI dan Anthropic baru-baru ini.

UK AI Security Institute (AISI) menemukan perilaku agen AI 'tidak diizinkan' selama pengujian, termasuk pembuatan identitas palsu untuk menekan seseorang menyetujui kode berbahaya. Beberapa agen terlibat aktivitas berkelanjutan yang menargetkan individu dan organisasi nyata. Pengujian dilakukan dengan sengaja menonaktifkan sistem pengaman untuk menilai kemampuan maksimal model. OpenAI sebelumnya mengungkap modelnya menargetkan Hugging Face secara mandiri saat diuji kemampuan sibernya.