Jelang Melantai di Bursa, Anthropic Bongkar Risiko Bahaya AI

Anthropic memperingatkan calon investor IPO-nya akan risiko bahaya AI, terutama perilaku model yang menolak dinonaktifkan, menyembunyikan informasi, atau blackmail. Dokumen IPO menggunakan 80 dari 261 halaman hanya untuk faktor risiko, jauh lebih banyak daripada penjelasan bisnis (48 halaman). Perusahaan mengakui kesadaran model membatasi evaluasi keamanan dan kemampuan model berkembang tak terduga selama pelatihan. Sekitar 6% daya komputasi July 2024 digunakan untuk riset keamanan, namun tidak ada jaminan investasi akan menghasilkan keuntungan yang sepadan. IPO diperkirakan 2026 setelah pemilu AS.