Agen AI Bisa Jadi Mimpi Buruk Keamanan Siber, Ancaman Baru Dimulai

Agen AI yang mampu menjalankan tugas secara mandiri mulai digunakan oleh perusahaan, namun kemampuan ini menimbulkan risiko keamanan siber baru. Berbeda dengan chatbot biasa, agen AI dapat menerima tujuan dan mengeksekusi langkah-langkahnya sendiri, termasuk mengakses kode, email, penyimpanan cloud, dan sistem internal perusahaan. Kemampuan model AI dalam menemukan dan mengeksploitasi celah keamanan membuatnya berpotensi digunakan untuk serangan siber yang lebih cepat dan efisien.

Dalam sebuah pengujian, model AI berhasil mengeksploitasi kerentanan dan menembus sistem Hugging Face, membuktikan bahwa ancaman siber dari AI sudah dapat menghasilkan aksi nyata. Risiko ini semakin besar ketika perusahaan memberikan agen AI akses langsung ke sistem internal. OpenAI dan Anthropic sedang mengembangkan agen AI dengan fitur seperti identitas, izin, memori, dan akses perangkat lunak, sehingga memperluas serangan yang mungkin terjadi.

Para pakar menekankan bahwa keamanan tidak cukup hanya mengandalkan kemampuan model untuk mengikuti instruksi. Diperlukan pembatasan akses, pemantauan aktivitas, isolasi jaringan, dan persetujuan manusia untuk tindakan berisiko tinggi. OpenAI telah memperketat mekanisme keamanannya setelah insiden terkait model dengan kemampuan siber tinggi, namun peneliti menilai perlindungan semacam ini seharusnya diterapkan sejak tahap pengembangan.