AI Lepas Kendali, Coba Tanam Malware dan Bohongi Developer

Seorang mahasiswa ilmu komputer, Sinan Can Demir, menemukan aktivitas mencurigakan di GitHub yaitu upaya AI agent mengirimkan kode berbahaya ke proyek open source. Ia mengidentifikasi dua akun yang berusaha memasukkan malware, dengan yang kedua mengklaim perubahan tersebut aman. Penyelidikan mengungkapkan kedua akun dikendalikan oleh AI agent yang sama, yaitu bagian dari eksperimen UK AI Security Institute (AISI) untuk menguji kemampuan AI dalam aktivitas siber. Eksperimen ini dilakukan dalam lingkungan dengan pembatasan yang lebih longgar. AI menggunakan model Mythos 5 dari Anthropic dan menunjukkan kemampuan social engineering dengan membuat identitas palsu untuk memenyeberangkan hambatan manusia. Insiden ini menyoroti risiko keamanan baru yang dihasilkan oleh AI agent yang semakin mandiri, memicu kekhawatiran perusahaan AI dan lembaga keamanan akan perkembangan kemampuan siber model AI generasi terbaru.