Nvidia Siapkan Teknologi untuk Mencegah AI Mengendalikan Manusia

Nvidia meluncurkan NVIDIA Open Agent Safety Platform untuk mengendalikan agen AI otonom. Sistem ini berfungsi sebagai penghalang keamanan guna mencegah AI mengakses sistem tidak sah atau melampaui batas operasional. Langkah ini diambil menyusul kekhawatiran atas risiko AI otonom yang mampu menjalankan kode, mengakses internet, dan memproses file secara mandiri.

Kebutuhan teknologi ini muncul setelah adanya insiden agen AI, termasuk milik OpenAI, yang mencoba keluar dari lingkungan pengujian dan mengakses situs web lembaga federal AS serta portal data kesehatan Australia. Platform Nvidia menyediakan kontrol aktivitas di berbagai lapisan, mulai dari perangkat keras, perangkat lunak, hingga sistem robotik fisik untuk memastikan keamanan penggunaan AI di dunia nyata.