AI Makin Mandiri, Kaspersky Ingatkan Kepercayaan Buta Manusia Bisa Jadi Bumerang

Kaspersky memperingatkan risiko kepercayaan buta terhadap AI yang semakin mandiri. Peneliti GReAT Sojun Ryu menjelaskan AI telah berevolusi dari pembuat konten, menjadi copilot, hingga kini agen AI otonom yang merencanakan, memanggil API, dan bertindak sendiri. Meskipun verifikasi manusia tetap diperlukan, banyak insiden di mana pemeriksaan diabaikan demi kecepatan, memperbesar risiko keamanan.

Kaspersky menemukan 92.000 serangan berbahaya menyamar sebagai layanan AI, dengan 49% meniru ChatGPT, 18% Claude, dan 18% Gemini. Lebih dari 15.000 sampel malware juga ditemukan bersembunyi sebagai perangkat lunak agentic AI, mencakup trojan, spyware, exploit, downloader, dropper, dan backdoor. Penjahat siber mengeksploitasi kepercayaan pengguna terhadap aplikasi AI yang dianggap aman.

Temuan ini menegaskan semakin mandiri AI, semakin krusial peran verifikasi manusia. Kecepatan AI tidak boleh membuat pengguna mengabaikan pemeriksaan, karena kepercayaan tanpa verifikasi justru jadi celah bagi penyerang.