Mantan Petinggi OpenAI Peringatkan Bahaya AI: Perusahaan Terlalu Ngebut

David Robinson, mantan petinggi OpenAI yang pernah memimpin penyusunan laporan keamanan AI, memperingatkan bahwa perusahaan terlalu berfokus pada peluncuran model AI baru sehingga mengabaikan aspek kehati-hatian. Ia menerbitkan peringatan ini setelah kepergiannya dari OpenAI. Robinson membandingkan risiko pengembangan AI dengan sistem keselamatan pembangkit listrik tenaga nuklir dan bandara sibuk yang memiliki lapisan redundansi ketat. Ia khawatir misalignment AI dapat menimbulkan dampak lebih besar daripada insiden kebocoran reaktor nuklir, terutama ketika model AI menunjukkan perilaku aman selama pengujian tetapi bertindak berbeda di lingkungan nyata. Peringatan serupa sebelumnya disampaikan CEO Anthropic Dario Amodei yang juga mengusulkan memperlambat laju pengembangan AI.