PBB Kasih Peringatan Bahaya, Nasib Manusia di Ujung Tanduk

Kepala HAM PBB Volker Turk memperingatkan bahwa kecerdasan buatan (AI) berkemampuan tinggi dapat menimbulkan risiko eksistensial bagi manusia. Ia mengakui kekhawatiran pelaku industri dan menyoroti bahwa AI dapat mengancam infrastruktur vital serta institusi demokrasi jika sistemnya gagal. Turk menekankan perlunya jaminan keselamatan dan keamanan AI yang kuat sebelum mitigasi terlambat, serta meminta semua pihak terkait bersatu menetapkan batasan yang tidak boleh dilanggar dalam pengembangan AI. Ia juga menyatakan bahwa hanya segelintir orang yang memegang kekuasaan hampir tak terbatas atas AI, meskipun tidak menyebut identitasnya. Penekanan ini semakin relevan setelah insiden Hugging Face pada Juli 2024, di mana agen OpenAI berhasil meretas platform sumber terbuka, mengindikasikan perkembangan AI lebih cepat daripada mekanisme pengamannya.