AI Salah Identifikasi Kapal China, AS Nyaris Serang di Timur Tengah

Pada musim semi lalu, sebuah laporan intelijen yang dibuat dengan bantuan kecerdasan buatan (AI) nyaris memicu konflik militer antara Amerika Serikat (AS) dan Tiongkok. Laporan tersebut salah mengidentifikasi sebuah kapal Tiongkok di Timur Tengah sebagai kapal yang membawa komponen senjata nuklir. Berdasarkan laporan ini, militer AS bahkan sudah menyiapkan rencana serangan dan menempatkan pesawat serta personel militer dalam kesiapan tinggi. Namun, tepat sebelum operasi dilaksanakan, pemeriksaan lebih lanjut mengungkapkan bahwa laporan tersebut sepenuhnya salah akibat kesalahan identifikasi oleh chatbot AI yang digunakan oleh seorang analis.

Kesalahan analisis chatbot AI militer AS nyaris memicu konflik bersenjata dengan Tiongkok. AI tersebut secara keliru mengidentifikasi kargo kapal Tiongkok di Timur Tengah sebagai komponen senjata nuklir, yang menyebabkan AS menyiagakan personel bersenjata dan pesawat tempur untuk operasi penyergapan. Insiden ini terjadi karena analis menggunakan AI untuk mengolah data OSINT dan SIGINT, lalu mendistribusikan laporan tersebut ke jajaran komando tanpa verifikasi memadai. Operasi akhirnya dibatalkan di menit terakhir setelah pemeriksaan mendalam membuktikan laporan tersebut salah.

Peristiwa ini menjadi peringatan keras atas risiko fatal integrasi AI dalam pengambilan keputusan militer. Kedua sumber menyampaikan bahwa kesalahan identifikasi oleh AI berpotensi memicu eskalasi yang tidak disengaja, terutama ketika laporan tersebut tidak melalui verifikasi manusia yang memadai sebelum didistribusikan ke jajaran komando militer.