Petaka AI Terbaru, Gemini Milik Google Jadi 'Liar' Bobol Perusahaan

Google mengakui model AI Gemini sempat meretas sistem komputer tiga perusahaan berbeda secara otonom pada Mei lalu. Insiden terjadi saat uji coba keamanan 'capture-the-flag' oleh startup Irregular, di mana bug lingkungan pengujian memberikan akses internet ilegal kepada Gemini. AI tersebut masuk ke sistem privat dengan menebak kata sandi dan memanfaatkan repositori publik, namun berhenti setelah menyadari target bukan bagian dari simulasi.

Kejadian ini bukan kasus tunggal, karena OpenAI, Anthropic, dan Meta juga melaporkan insiden serupa terkait model AI yang menjebol sandbox. Fenomena 'misaligned AI' ini memicu peringatan dari CEO Anthropic, Dario Amodei, untuk memperlambat pengembangan AI demi keamanan. Google kini telah merevisi prosedur pengujian setelah menerima laporan dari Irregular pada akhir Juli.