Bapak AI Dunia Wanti-wanti 'Ledakan Kecerdasan,' Ini Pemicunya

22 peneliti AI termasuk Yoshua Bengio dan Geoffrey Hinton menerbitkan riset tentang risiko 'ledakan kecerdasan' AI. Riset ini menekankan bahwa otomatisasi R&D AI dapat memicu percepatan drastis kemajuan teknologi, mengancam kendali manusia. Para peneliti mendesak pembuat kebijakan bertindak dengan transparansi, pembatasan kecepatan pengembangan, dan persiapan darurat. Anthropic dan OpenAI telah sepakat meminta auditor independen untuk menilai model mereka. Ledakan kecerdasan membawa risiko biologis, siber, hilangnya kendali manusia, dan ancaman perang antarnegara. Peneliti menyatakan bahwa produktivitas R&D AI saat ini belum mencapai ambang batas, tetapi sistem baru mungkin mendekati.