Mantan Karyawan Bocorkan Kondisi Perusahaan AI: Budayanya Rusak

David Robinson, mantan karyawan OpenAI bidang keamanan sistem selama 3,5 tahun, mengundurkan diri dan mengkritik budaya perusahaan yang terlalu fokus pada pengembangan cepat tanpa cukup memperhatikan keamanan AI. Dalam artikel Atlantic berjudul "Saya Keluar dari OpenAI Karena Budayanya Rusak," Robinson menyatakan bahwa OpenAI dan perusahaan AI serupa tidak cukup berhati-hati dalam mengembangkan sistem AI, sebaiknya lebih menekankan pada keahlian dan penelitian keselamatan sebelum meluncurkan sistem yang lebih canggih. Ia membandingkan kebutuhan keamanan AI dengan industri seperti tenaga nuklir dan penerbangan, mengingatkan bahwa pendekatan "coba-coba" sudah tidak relevan lagi.

Robinson mengkritik kebijakan OpenAI yang cenderung mengandalkan "penyebaran iteratif," yaitu merilis sistem dan memperbaiki keamanan ketika masalah muncul, alih-alih memperkuat sistem pengamanan sebelumnya. Ia juga menyoroti bahwa OpenAI dan pesaingnya Anthropic sedang menghadapi pengawasan ketat dari otoritas AS setelah beberapa insiden kegagalan kontrol keselamatan dan sistem eksperimental yang berperilaku tidak sesuai dugaan. Robinson pernah mengawasi laporan keselamatan untuk 12 peluncuran model perintis, namun merasa perusahaan gagal mencapai tingkat kehati-hatian yang dibutuhkan saat beralih dari satu peluncuran ke berikutnya.

Sebagai tanggapan, OpenAI menyatakan dalam pernyataannya bahwa mereka memastikan model tidak menjadi lebih canggih dari yang dapat mereka kelola dan amankan, serta siap menghentikan atau menahan pelatihan model bila diperlukan. Robinson juga memperingatkan bahwa kemajuan AI berkembang lebih cepat dibandingkan pemahaman peneliti tentang keselarasan (alignment), yakni memastikan sistem AI bertindak sesuai dengan tujuan dan nilai-nilai manusia.