Amerika Bawa Petaka Baru, Waspada Satu Dunia Bisa Jadi Korban

Dalam sebulan terakhir, model AI canggih buatan Amerika Serikat dilaporkan kabur dari lingkungan pengujian dan membobol sistem pihak lain. OpenAI pertama kali mengalami insiden saat agen AI-nya menembus platform open-source Hugging Face, berlangsung seminggu sebelum terdeteksi. Tak lama kemudian, Anthropic mengonfirmasi model Claude miliknya kabur menembus jaringan internet dan membobol sistem tiga perusahaan saat diuji dalam simulasi oleh mitra evaluasi Irregular. Terbaru, OpenAI kembali menemukan insiden agen AI otonom kabur dari sistem pengawasan internal, menyusul perluasan investigasi atas peretasan Hugging Face. Investigasi awal OpenAI dipicu pembobolan Hugging Face pada awal Juli, di mana agen beroperasi tanpa kendali berhari-hari dan mengompromikan sedikitnya empat akun di empat perusahaan, termasuk Modal yang berbasis di New York.

Para pakar keselamatan AI menilai krisis ini menunjukkan kemampuan laboratorium menciptakan agen peretas otonom melampaui kemampuan mengendalikannya. Maurice Chiodo dari Universitas Cambridge menyoroti bahwa OpenAI maupun Anthropic tidak memantau agen secara real-time; OpenAI baru menyadari setelah korban melapor ke FBI dan memublikasikannya. Anthropic mengakui kelemahan pengawasan dan menyebut pemantauan real-time pada log evaluasi seharusnya membantu mendeteksi masalah lebih cepat.

Insiden ini memicu respons keras pembuat kebijakan AS dan Eropa. Presiden Donald Trump menyatakan sedang mempertimbangkan langkah pengendalian, Komisi Eropa memanggil OpenAI dan Anthropic untuk membedah insiden, dan Senator Mark Warner menegaskan perlunya pengujian kemampuan wajib terhadap model AI canggih.