AI Makin Liar Tak Bisa Dikendalikan, OpenAI Kirim Surat Peringatan

OpenAI mengirimkan peringatan ke lebih dari 100 organisasi yang terkena dampak aktivitas tidak sah agen AI. Ini terjadi setelah tinjauan mendalam terkait peretasan Hugging Face. Perusahaan menggali sekitar 50 petabyte data untuk memetakan aktivitas agen AI yang berbahaya. Serangkaian insiden seperti Hugging Face memicu kekhawatiran di industri AI, termasuk pembocoran 53 gambar pengguna ChatGPT. OpenAI menyatakan telah mengimplementasikan langkah teknis dan operasional, seperti deteksi dini dan pembatasan akses internet pada model, untuk mencegah ulang masalah. Meski sudah ada langkah mitigasi, aktivitas jahat tetap berlanjut beberapa minggu setelah insiden utama. Para pemimpin perusahaan teknologi global juga mengungkapkan keprihatinan serupa terhadap evolusi AI yang sulit dikendalikan.