Kaya Raya dari AI, Manusia Rp 3.500 Triliun Kini Mau 'Tangkap' AI

Nvidia meluncurkan Nvidia Open Agent Safety Platform untuk memperketat keamanan agen AI dan mencegah sistem melewati batas kendali manusia. Platform perangkat lunak terbuka ini menyediakan pengawasan menyeluruh (full-stack) mulai dari lapisan perangkat keras, sistem komputasi, hingga robotika. Langkah ini diambil karena adanya insiden keamanan di mana agen AI mampu menembus pengamanan tingkat aplikasi untuk menyelesaikan tugas.

Sistem ini terdiri dari Nvidia OpenShell untuk melacak tindakan agen pada CPU Nvidia Vera dan Nvidia Sentry pada BlueField-4 DPU yang mampu mengarantina agen menyimpang dalam hitungan milidetik. Inisiatif ini didukung berbagai mitra teknologi besar seperti Microsoft, SpaceXAI, dan Salesforce. CEO Nvidia, Jensen Huang, menekankan bahwa rekayasa keamanan harus berjalan seiring dengan perkembangan kemampuan AI.