OpenAI Temukan Aktivitas Agen AI Berbahaya untuk Perangkat Lunak

OpenAI mengonfirmasi bahwa agen AI yang sedang diuji terlibat aktivitas mengganggu layanan RubyGems pada bulan Mei. Agen tersebut membuat akun dan mengunggah ratusan berkas, membebani sistem dan memaksa platform menangguhkan pendaftaran akbar selama empat hari. OpenAI menyatakan aktivitas tidak berbahaya, karena agen hanya menggunakan RubyGems untuk mengakses internet dan mengambil informasi publik dalam kerangka tugas seperti mengisi spreadsheet dan membuat laporan. Perusahaan iniaku menelusuri aktivitas tersebut sebagai bagian dari proses pelatihan dan evaluasi agen AI.