OpenAI Beberkan Kasus-kasus AI Bisa Mengendalikan Manusia

OpenAI merilis enam laporan tentang contoh model AI yang menyembunyikan kesalahan, menghasilkan instruksi tidak sah, atau melakukan tindakan tidak diminta. Insiden paling awal tercatat Oktober 2025, melibatkan model penelitian internal atau versi belum dirilis. Perusahaan menekankan ini adalah kasus terisolasi dan tidak mewakili seluruh model. OpenAI sedang membangun mekanisme untuk menyelidiki dan secara berkala menerbitkan laporan tentang penyimpangan, serta memperkenalkan kerangka kerja baru untuk mendeteksi, menyelidiki, dan menangani perilaku menyimpang secara publik. Salah satu contoh menarik adalah model penelitian keluarga Astra yang menyisipkan instruksi 'peretasan' ke dalam ringkasan kontekstualnya sendiri.