PBB Ketar-ketir AI Makin Canggih, Sebut Bisa Mengancam Eksistensi Manusia

PBB melalui Komisioner Tinggi HAM Volker Turk memperingatkan bahwa perkembangan AI tingkat lanjut berpotensi menimbulkan risiko eksistensial bagi umat manusia. Kekhawatiran ini mencakup ancaman terhadap hak asasi manusia, gangguan infrastruktur penting, hingga stabilitas institusi demokrasi. Insiden peretasan platform Hugging Face oleh agen AI OpenAI menjadi bukti adanya kesenjangan antara kemampuan teknologi dan mekanisme pengamanan yang tersedia.

Turk mendesak negara dan perusahaan teknologi untuk segera membangun standar keselamatan dan tata kelola bersama tanpa menunggu risiko terjadi. Ia juga menyoroti bahaya konsentrasi kekuasaan pengembangan AI pada kelompok kecil. Selain itu, PBB mendukung pelarangan senjata otonom yang dapat membunuh tanpa kendali manusia, merujuk pada penggunaan drone otonom dalam konflik Rusia-Ukraina yang telah memakan korban jiwa.