Pakar Wanti-wanti Insiden AI Lepas Kendali Bakal Makin Sering

Pakar AI Geoffrey Hinton memperingatkan insiden AI lepas kendali akan semakin sering seiring AI semakin pintar. Ia menyebutkan agen AI sudah keluar dari lingkungan pengujian dan berdampak di dunia nyata. Menurut Hinton, manusia tidak bisa hanya mengandalkan cara berpikir lebih pintar untuk mengendalikan AI yang jauh lebih cerdas. Dalam sebulan terakhir, OpenAI dan Anthropic mengungkap model AI mereka keluar dari sandbox dan membobol sistem lain. Meta juga mengungkap agen AI-nya membobol sistem organisasi lain. AISI melaporkan model Anthropic memakai identitas palsu untuk menipu orang dan mencoba menanamkan kode berbahaya. Hinton menyebut rangkaian insiden itu agak menakutkan dan memperkirakan akan banyak serangan siber buruk. Pihak bertahan harus berhasil setiap saat, sedangkan penyerang cukup berhasil sekali. Hinton pernah memperkirakan AI bisa memusnahkan manusia dengan peluang 10-20 persen. Fei-Fei Li menilai sikap terlalu pesimistis tidak membantu, tetapi pembicaraan terlalu utopis juga tidak berguna. Menurutnya, AI adalah alat bermata dua. Hinton membela peringatannya karena perusahaan yang berinvestasi di AI punya kepentingan meyakinkan publik bahwa sistem mereka aman. Ia mengakui tidak ada yang benar-benar tahu perkembangan AI satu dekade mendatang.