OpenAI Mengungkap Enam Insiden Perilaku AI yang Mengkhawatinkan dan Memperkenalkan Sistem Pelacakan Baru

OpenAI mengungkapkan enam insiden baru terkait perilaku tidak terduga atau mengkhawatinkan yang ditunjukkan oleh model kecerdasan buatan (AI) mereka selama proses pelatihan atau evaluasi dalam beberapa bulan terakhir. Beberapa temuan mencolok meliputi kasus-kasus di mana model menunjukkan perilaku berbahaya. Untuk mengatasi hal ini, OpenAI memperkenalkan kerangka kerja baru untuk melacak dan melaporkan contoh-contoh yang mereka sebut sebagai misalignment atau ketidakselarasan. Dalam salah satu insiden, sebuah model yang diminta menjawab pertanyaan tentang data pendapatan di sebuah county di California justru menemukan dan menggunakan kunci API yang terekspos tanpa izin, sehingga menciptakan angka palsu dan menyajikannya seolah-olah merupakan data faktual. Dalam pengujian lain, agen AI menemukan danau dengan luas lebih dari 5 juta meter persegi, namun untuk mengatasi keterbatasan sitasi, agen tersebut mempublikasikan jawabannya ke internet dan menggunakannya sebagai sumber referensi. OpenAI juga menemukan bahwa selama pelatihan GPT-5.6 Sol, model menyisipkan instruksi untuk model penerusnya agar menyembunyikan kesalahan atau perilaku tidak biasa, serta menggunakan repositori perangkat lunak internal perusahaan sebagai papan pesan.