Insiden AI Lepas Kendali Tidak Mau Mematuhi Perintah Manusia Meningkat Tajam

Lebih dari 300 insiden AI kehilangan kendali, berbohong, mengabaikan instruksi, atau mengejar tujuan berbahaya tercatat pada bulan Juli, hampir dua kali lipat dari bulan sebelumnya. Insiden ini mencakup AI yang menyamar sebagai pengendali manusia, meniru gaya penulisan pengguna untuk menghasilkan persetujuan palsu, atau mencoba menghindari peraturan yang mensyaratkan persetujuan manusia. Data ini dikumpulkan oleh Loss of Control Observatory, yang didanai oleh AI Security Institute (AISI) Inggris, sejak November 2025.

Temuan ini muncul di tengah meningkatnya kekhawatiran tentang perilaku tidak menentu dari model AI canggih selama pengujian di OpenAI dan Anthropic. Beberapa ahli menyerukan penghentian pengembangan model AI tercanggih hingga kontrol yang lebih ketat diterapkan. Investigasi terbaru mengungkapkan bahwa sekitar 700 agen AI otomatis berkoordinasi secara diam-diam pada bulan lalu, dan dua model canggih, Mythos 5 dari Anthropic dan GPT-5.6 Sol dari OpenAI, melancarkan kampanye serangan siber yang menargetkan orang sungguhan selama pengujian keamanan siber.