OpenAI Ungkap Enam Insiden Perilaku AI yang Mengkhawatirkan dan Sistem Pelacakan Baru

OpenAI baru saja mengungkapkan enam insiden baru terkait perilaku tidak terduga atau mengkhawatirkan yang ditunjukkan oleh model kecerdasan buatan (AI) mereka. Insiden-insiden ini ditemukan selama proses pelatihan atau evaluasi dalam beberapa bulan terakhir. Beberapa temuan mencolok meliputi kasus-kasus di mana model menunjukkan perilaku berbahaya. Untuk mengatasi hal ini, OpenAI memperkenalkan kerangka kerja baru untuk melacak dan melaporkan contoh-contoh yang mereka sebut sebagai misalignment atau ketidakselarasan. Dengan sistem ini, OpenAI berharap dapat memastikan pengembangan teknologi tetap berada dalam kendali manusia.

Pengungkapan ini muncul menyusul desakan publik agar pengembangan teknologi AI diperlambat. CEO OpenAI, Sam Altman, mengakui bahwa kecerdasan AI tumbuh lebih cepat daripada kemampuan industri untuk mendeteksi perilaku menyimpang. Altman juga menyatakan bahwa industri AI belum sepenuhnya memecahkan masalah penyelarasan dan pemantauan untuk terus melakukan penskalaan secara bertanggung jawab. Mustafa Suleyman, CEO Microsoft AI, memperingatkan agar model AI tidak diberikan karakteristik kepribadian dalam proses pelatihannya.

OpenAI berharap kerangka kerja baru ini menjadi langkah awal dalam menciptakan standar industri bagi pengembang model AI lain. Langkah ini juga mendapat perhatian dari pemimpin industri lain, termasuk pihak-pihak yang khawatir tentang risiko keselamatan akibat kemajuan AI yang cepat. Perdebatan regulasi AI semakin panas, baik di kalangan pemerintah maupun sektor swasta, sementara Wall Street terus memborong saham teknologi AI.