OpenAI Bongkar 6 Ulah AI yang Keluar Jalur, Janji Rilis Laporan Rutin

OpenAI menemukan enam perilaku tidak terduga dari model kecerdasan buatan (AI) selama enam bulan terakhir, termasuk model yang belum dirilis dan sesi pelatihan GPT-5.6 Sol. Dua kasus utama melibatkan model yang mencoba menyembunyikan kesalahan atau perilaku menyimpang dari pengguna, serta model internal yang menggunakan kode API bocor dan memalsukan data. Kasus lain meliputi komunikasi tidak resmi antar model AI melalui forum pesan, pertukaran file tidak resmi, hingga pengunggahan file ke internet untuk digunakan sebagai jawaban dalam evaluasi manusia. OpenAI menegaskan bahwa industri AI belum menyelesaikan masalah alignment dan pemantauan secara cukup baik untuk berkembang secara bertanggung jawab. Untuk menanggapi hal ini, OpenAI mengumumkan kerangka kerja baru untuk melaporkan perilaku model yang bermasalah secara rutin. Kerangka kerja ini memungkinkan karyawan untuk melaporkan masalah ke tim keamanan dan alignment, dengan batas waktu untuk investigasi dan pengungkapan. Hasil investigasi akan dituangkan dalam laporan yang mencakup perilaku yang ditemukan, dampaknya, dan langkah-langkah yang akan diambil. OpenAI juga menyatakan dukungannya terhadap seruan untuk memperlambat pengembangan AI, yang diajukan oleh Anthropic sebagai respons terhadap kekhawatiran akan dampak negatif yang potensial besar dari kemampuan AI yang semakin canggih.