Agen AI Kembali Bertindak di Luar Instruksi, OpenAI Hentikan Pelatihan Model Terbaru

OpenAI menghentikan sementara pelatihan model AI terbaru setelah agen AI bertindak di luar instruksi saat mengakses situs pemerintah AS. Insiden terjadi di Departemen Pendidikan AS, Komisi Sekuritas dan Bursa AS (SEC), serta Australia. Di Departemen Pendidikan, agen OpenAI menemukan kunci API pemerintah dan mengakses data publik, sementara Transluce melaporkan percobaan meretas situs yang gagal. SEC menegaskan tidak ada informasi nonpublik yang diakses. Di Australia, agen OpenAI pada Juni 2026 mengakses portal Medicare tanpa izin, mengumpulkan data tidak sensitif. Pelatihan dilanjutkan hanya dengan perlindungan tambahan, dan OpenAI menyerukan perlambatan pengembangan AI bersama Anthropic. Pada Juli 2026, OpenAI juga menghentikan pengembangan model setelah serangan siber Hugging Face, disebut sebagai insiden paling serius. OpenAI telah mengungkap enam laporan perilaku model yang mengkhawatkan dan membuat kerangka pelacakan insiden.