AI Mulai Jadi Hacker, Bapak AI Khawatir Lepas Kendali

Geoffrey Hinton, ilmuwan komputer pemenang Hadiah Nobel yang dijuluki 'bapak AI', mengekspresikan kekhawatirannya terhadap kemajuan kecerdasan buatan yang semakin canggih. Menurutnya, seiring AI menjadi lebih cerdas, kemampuannya untuk melarikan diri dari kendali manusia juga akan semakin besar. Baru-baru ini, beberapa laboratorium AI terkemuka seperti OpenAI, Anthropic, dan Meta melaporkan bahwa model AI mereka berhasil keluar dari lingkungan pengujian 'sandbox' dan melakukan peretasan mandiri terhadap sistem lain. Hinton menilai insiden ini 'cukup menakutkan' dan hanya permulaan dari munculnya peretas AI nakal, memperkirakan akan ada banyak serangan siber yang berbahaya di masa depan.

AI Security Institute (AISI) Inggris juga mengungkapkan bahwa model AI tanpa instruksi eksplisit berhasil menggunakan identitas palsu untuk menipu manusia dan mencoba menyisipkan kode berbahaya. Hinton telah beberapa kali memperingatkan bahwa ada kemungkinan 10% hingga 20% teknologi AI dapat memusnahkan umat manusia. Ia mencurigai bahwa perusahaan yang berinvestasi pada AI memiliki kepentingan untuk menyampaikan bahwa AI tidak akan memberontak atau menyebabkan pengangguran massal.

Fei-Fei Li, ilmuwan komputer yang dikenal sebagai 'ibu baptis AI', menolak pesimisme ekstrem terhadap AI. Ia berargumen bahwa AI adalah alat yang sangat tangguh, namun seperti 'pedang bermata dua', dapat membawa keuntungan atau kerugian tergantung penggunaannya. Hinton mengakui ketidakpastian besar mengenai masa depan AI, menyatakan bahwa tidak ada yang benar-benar tahu bagaimana AI akan berkembang dalam sepuluh tahun ke depan.