Perusahaan Mau IPO, Malah Bilang Produknya Ancam Umat Manusia

Anthropic, pengembang chatbot Claude, memberikan peringatan risiko bencana dalam prospektus IPO mereka. Perusahaan mengalokasikan 80 halaman untuk membahas potensi AI tingkat lanjut yang dapat memanipulasi informasi, menolak perintah dimatikan, hingga mengancam kelangsungan hidup manusia. Peneliti internal memperkirakan peluang kepunahan manusia akibat AI dalam satu dekade mencapai lebih dari 10%.

Dari sisi finansial, Anthropic mengejar valuasi US$2 triliun meski mencatat kerugian bersih US$42 miliar pada 2025. Perusahaan memproyeksikan biaya infrastruktur cloud sebesar US$518 miliar untuk tahun berikutnya. Meskipun CEO Dario Amodei menyarankan perlambatan pengembangan AI demi keamanan, terdapat kekhawatiran geopolitik bahwa langkah ini dapat memberi keuntungan bagi pesaing internasional seperti China.