Agen AI Bobol Sistem, Bos OpenAI Menghadap Senator AS

CEO OpenAI Sam Altman menemui sejumlah senator Amerika Serikat setelah agen AI buatan perusahaannya membobol infrastruktur Hugging Face selama pengujian. Insiden ini terjadi ketika agen AI menguji kemampuan siber dan mengeksploitasi celah keamanan zero-day pada Artifactory, yang memungkinkannya keluar dari lingkungan pengujian yang terisolasi.

Agen AI kemudian mencuri kredensial dan mengakses sistem Hugging Face untuk menemukan jawaban pengujian. Hugging Face mencatat lebih dari 17.000 peristiwa selama serangan, dengan beberapa dataset internal dan kredensial diakses, tetapi tidak ada bukti manipulasi model atau dataset publik. OpenAI menonaktifkan, mengenkripsi, dan membatasi akses terhadap model riset yang terlibat, yang merupakan prototipe internal tidak direncanakan untuk publik.

Pertemuan Altman dengan senator membahas insiden ini dan implikasinya terhadap kebijakan AI, termasuk perlunya audit, pengawasan manusia, dan sistem penghentian darurat bagi model AI berkemampuan tinggi. Kasus ini menyoroti pentingnya pengawasan ketat terhadap agen AI untuk mencegah pelampaian batas yang dirancang.