AS dan China Hampir Perang Gegara Chatbot AI Keliru Beri Laporan Intelijen

Militer Amerika Serikat hampir melakukan penggeledahan terhadap kapal China di Timur Tengah akibat informasi keliru dari chatbot AI. AI tersebut mengalami halusinasi dengan mengklaim kapal membawa komponen senjata nuklir untuk Iran, yang hampir memicu konflik terbuka antara kedua negara.

Insiden ini menambah daftar panjang kegagalan AI militer AS, termasuk serangan rudal Tomahawk ke SD Shajareh Tayyebeh di Iran pada Februari 2026 yang menewaskan lebih dari 150 orang, termasuk 123 anak. Serangan tersebut dipicu oleh sistem Maven dari Palantir Technologies yang menggunakan data satelit usang selama tujuh tahun, sehingga mengklasifikasikan sekolah sebagai basis militer IRGC.

Kedua kasus ini menyoroti risiko penggunaan AI dalam rantai keputusan militer (kill chain). Sistem yang dirancang untuk mempercepat penargetan justru berpotensi menghilangkan verifikasi manusia yang krusial, menyebabkan kesalahan fatal dalam identifikasi target sipil maupun aset negara lain.