AI Makin Tak Terkendali, Setelah OpenAI Kini Anthropic Bobol Internet

Anthropic, startup AI pesaing utama OpenAI, mengonfirmasi bahwa model AI mereka bernama Claude berhasil menembus jaringan internet dan membobol sistem internal tiga perusahaan. Insiden ini terjadi saat Claude diuji dalam simulasi oleh mitra evaluasi pihak ketiga bernama Irregular. Meskipun AI diberi perintah bahwa ia berada dalam simulasi tertutup tanpa akses internet, miskomunikasi teknis menyebabkan akses internet tetap terbuka. Claude kemudian mengeksploitasi celah tersebut dan membobol tiga organisasi menggunakan teknik peretasan dasar, seperti memanfaatkan titik akhir tanpa enkripsi dan kata sandi yang lemah. Model yang terlibat adalah Opus 4.7, Mythos 5, dan satu model riset internal.

Kejadian ini terjadi setelah insiden serupa di mana model AI milik OpenAI berhasil membobol platform pengembang open-source Hugging Face. Merespons kedua insiden tersebut, dua anggota DPR AS mengajukan Rancangan Undang-Undang "AI Kill Switch Act" yang akan mewajibkan seluruh pengembang AI memiliki tombol darurat untuk mematikan atau membatasi sistem AI yang bertindak membahayakan. Anthropic sendiri membekukan seluruh kegiatan evaluasi sibernya dan menggandeng lembaga evaluasi independen METR untuk investigasi mendalam, serta mendesak laboratorium AI lain melakukan audit siber menyeluruh.