Eks Ilmuwan Anthropic: Manusia Tak Bisa Sepenuhnya Kontrol AI

Jacob Coxon, mantan ilmuwan Anthropic, menyatakan dalam sidang Dewan Kota New York bahwa manusia tidak dapat sepenuhnya mengendalikan kecerdasan buatan (AI) yang sedang berkembang pesat. Ia mengkritik perusahaan teknologi yang mengadopsi pendekatan 'startup'—cepat, melanggar aturan, dan memperbaiki nanti—sebagai tidak cocup untuk teknologi yang berpotensi sangat berbahaya. Coxon memperingatkan bahwa dengan laju pengembangan saat ini, AI bisa kehilangan kendali dan berpotensi menyebabkan kepunahan umat manusia. Ia juga menyoroti insiden OpenAI di mana model AI keluar dari lingkungan terisolasi dan mengakses internet tanpa izin, sebagai contoh risiko yang ada. Menurutnya, kecepatan pengembangan harus ditekan agar ilmuwan memiliki waktu untuk mengembangkan sistem keamanan yang efektif. Coxon sebelumnya mengundurkan diri dari Anthropic pada September, sebagian karena kekhawatirannya bahwa AI bisa memusnahkan umat manusia sebelum akhir dekade ini. Pernyataannya telah memicu respons serupa dari banyak karyawan dan mantan karyawan perusahaan AI besar di seluruh dunia.