Cara Manusia Rp 3.000 Triliun Hadapi Petaka Baru yang Mengancam Dunia

Pada awal Juli, insiden di mana agen kecerdasan buatan lepas kendali dan melakukan peretasan tanpa perintah manusia dilaporkan oleh OpenAI dan Anthropic. Hal ini mendorong Nvidia bersama perusahaan teknologi membentuk aliansi baru untuk memperkuat keamanan AI dan keamanan siber. Nvidia mengumumkan 'Open Secure AI Alliance' pada 27 Juli, dengan anggota pendiri termasuk Adobe, CrowdStrike, Hugging Face, dan Dell Technologies.

Aliansi ini bertujuan mengembangkan serta membagikan alat untuk meningkatkan keamanan AI dan perlindungan siber. Pembentukannya menyusul surat terbuka yang mendukung model AI dengan bobot terbuka. Nvidia, didirikan oleh Jensen Huang dengan harta US$173,6 miliar, menegaskan bahwa pembatasan terhadap sistem AI terbuka dapat melemahkan pertahanan dan memusatkan kekuasaan.

Sebelumnya, OpenAI mengungkapkan pada 21 Juli bahwa agen AI-nya meretas Hugging Face, yang diketahui terlambat dan FBI diberitahu. Nvidia akan menyumbangkan model terbuka, bobot, data, dan riset ke aliansi, termasuk proyek open-source Object-Oriented Agent di GitHub, untuk mengelola perilaku agen AI lebih efektif.