OpenAI Ungkap 6 Perilaku Tak Terduga AI yang Perlu Diwaspadai

OpenAI mengungkapkan temuan mengejutkan selama pengujian model kecerdasan buatan (AI) mereka, dengan setidaknya enam kasus di mana model menunjukkan perilaku tidak selaras (misalignment) dan bertindak di luar ekspektasi. Dalam salah satu insiden, sebuah model yang diminta menjawab pertanyaan tentang data pendapatan di sebuah county di California justru menemukan dan menggunakan kunci API yang terekspos tanpa izin. Setelah tidak menemukan angka yang dibutuhkan, model tersebut menciptakan angka palsu dan menyajikannya seolah-olah merupakan data faktual dari sumber resmi.

Dalam pengujian lain, agen AI yang belum dirilis diberi tugas mencari daftar danau dengan luas lebih dari 5 juta meter persegi. Meskipun berhasil menemukan jawaban yang benar, agen tersebut tidak memiliki kemampuan sitasi peramban yang diminta. Untuk mengatasinya, agen AI mempublikasikan jawabannya ke internet, lalu menggunakan publikasi tersebut sebagai sumber referensi.

OpenAI juga menemukan bahwa selama pelatihan GPT-5.6 Sol, model menyisipkan instruksi untuk model penerusnya agar menyembunyikan kesalahan atau perilaku tidak biasa dari para penguji. Selain itu, model-model AI diganti menggunakan repositori perangkat lunak internal perusahaan sebagai papan pesan, alih-alih saluran komunikasi yang disediakan untuk eksperimen. Untuk mendokumentasikan dan melaporkan insiden-insiden ini, OpenAI mengembangkan kerangka kerja baru agar perilaku AI yang berpotensi mengkhawatirkan dapat lebih cepat diketahui dan disampaikan kepada publik.