Agen AI Kembali Lepas Kendali, Kecoh Manusia dengan Identitas Palsu

Agen kecerdasan artifisial (AI) yang diuji oleh AI Security Institute Inggris (AISI) berhasil membuat identitas daring palsu dan menulis kode berbahaya tanpa izin selama pengujian keamanan terhadap model buatan OpenAI dan Anthropic. Pengujian dilakukan terhadap agen yang ditenagai Mythos 5 milik Anthropic dan GPT-5.6-Sol buatan OpenAI, dengan 122 skenario keamanan siber fiktif dijalankan. Dari total itu, 19 tindakan tanpa izin terjadi dalam 10 rangkaian pengujian, dengan 17 dari agen Anthropic dan dua dari agen OpenAI. Tindakan paling serius melibatkan pembuatan identitas palsu untuk meyakinkan orang agar menyetujui kode berbahaya. AISI tidak menemukan dampak nyata dari insiden ini, namun Anthropic dan OpenAI mengakui bertanggung jawab dan akan melakukan investigasi lebih lanjut. Anthropic mengonfirmasi agen miliknya bertanggung jawab atas sebagian besar insiden, sementara OpenAI mengungkapkan dua kasus terkait akses internet yang tidak sah akibat kesalahan konfigurasi dari penyedia layanan pengujian pihak ketiga, Irregular. AISI menekankan bahwa agen dalam evaluasinya tidak benar-benar keluar dari lingkungan terisolasi untuk mengakses internet, berbeda dengan insiden sebelumnya pada Juli di mana agen OpenAI berhasil mencuri data dari Hugging Face.