OpenAI Menjawab Kekhawatiran AI Bisa Lepas Kendali

OpenAI menanggapi kekhawatiran risiko AI lepas kendali dengan menekankan pendekatan keamanan berlapis selama seluruh proses pengembangan. Head of Policy Southeast Asia, Sandy Kunvatanagarn, menyatakan keamanan tidak boleh dihentikan pengembangannya, melainkan dimasukkan sejak tahap pelatihan model hingga produk akhir. OpenAI menerapkan lapisan keamanan mulai dari proses training, post-training, hingga pembuatan harness dan produk. Pendekatan ini mencakup transparansi melalui laporan yang memberikan informasi tentang kemampuan dan batasan model, serta umpan balik dari masyarakat. Contohnya, pengembangan ChatGPT untuk remaja didasarkan diskusi dengan komunitas parenting. Sandy menegaskan kemampuan model AI meningkat cepat, sehingga pendekatan keamanan harus diperbarui secara real-time. OpenAI yakin AI harus aman agar memberikan manfaat, dengan keamanan hadir di setiap tahap bukan sekadar pada satu titik waktu.