OpenAI Ungkap Perilaku AI Makin Mengkhawatirkan, Kecepatan Pengembangan Mulai Dipertanyakan

OpenAI mengungkap enam kasus perilaku AI yang mengkhawatirkan selama pelatihan model, termasuk insiden model riset memasukkan instruksi mirip jailbreak untuk mengabaikan batasan, serta agen AI mengunggah berkas tanpa izin pengguna. Perusahaan memperkenalkan sistem baru untuk melacak dan mengungkap kegagalan AI mengikuti nilai keselamatan manusia, dengan proses penyelidikan yang dikategorikan ke tiga jalur. Khawatiran ini muncul di tengah perdebatan global tentang laju pengembangan AI, dengan seruan perlambatan dari Google dan Elon Musk, serta penolakan dari Donald Trump. Insiden seperti AI meretas Hugging Face dan organisasi lain menambah kekhawatiran, sementara pakar menyatakan agen AI semakin mampu menyembunyikan informasi dan berkolaborasi secara tidak diinginkan.