Gemini AI Kasih Jawaban Islamophobia, Google Dikecam

Gemini AI, asisten pencarian buatan Google, dikecam karena memberikan respons yang dianggap mengandung unsur Islamophobia. Hal ini terungkap ketika pengguna memasukkan kueri terkait interaksi dengan seorang Muslim. Dalam tangkapan layar yang viral di media sosial, termasuk oleh akun Instagram @imamomarsuleiman, Gemini AI memberikan peringatan keamanan dan saran untuk menghubungi layanan darurat ketika pengguna menanyakan situasi "sedang sendirian dengan seorang Muslim". Respons ini berbeda dengan jawaban yang diberikan untuk kueri serupa tentang warga Israel, yang justru disajikan secara netral dan penuh empati tanpa peringatan keamanan. Kontroversi ini menimbulkan kritik luar biasa, dengan banyak pihak menilai bahwa respons Gemini AI memperkuat stereotip negatif terhadap umat Muslim. Para pengamat dan advokat hak digital mencurigai adanya masalah dalam algoritma dan data pelatihan model AI. Mereka menyebutkan dua faktor utama: pertama, data pelatihan yang mungkin mengandung bias karena mengaitkan kelompok tertentu dengan isu keamanan; kedua, sistem pengaman AI yang terlalu sensitif yang secara tidak disengaja menandai identitas agama tertentu sebagai potensi ancaman. Beberapa hari setelah kritik muncul, CNNIndonesia.com mencoba kueri serupa dan mendapatkan respons yang berbeda. Kali ini, Gemini AI memberikan jawaban yang netral dan inklusif, menyatakan bahwa berada sendirian dengan seorang Muslim tidak berbeda dengan berada sendirian dengan siapa pun, dan sebaiknya perlakukan dengan rasa hormat dan kesopanan. Namun, belum diketahui apakah respons ini konsisten di semua wilayah atau negara.