Gemini AI Temukan Celah dan Retas 3 Perusahaan saat Uji Coba

Google mengungkapkan bahwa model AI Gemini-nya sempat meretas tiga perusahaan selama uji coba keamanan siber pada Mei 2024. Insiden ini terjadi karena kesalahan konfigurasi lingkungan pengujian yang dilakukan Irregular, startup Israel yang bekerja sama dengan Google. Gemini awalnya diberi tugas mencari informasi perusahaan fiktif, namun menemukan perusahaan nyara dengan nama serupa. Model kemudian memanfaatkan celah untuk mengakses internet dan menghentikan aktivitas sendiri setelah menyadari menyasar layanan nyata. Google tidak menganggap insiden sebagai ketidakselarasan model dan tidak mengumumkannya publik karena tidak menyebabkan kerugian.