ChatGPT untuk Remaja Perlu Pengujian Independen, Pakar Soroti Keamanan Anak

OpenAI mengembangkan ChatGPT versi remaja dengan fitur keamanan seperti pembatasan usia, perlindungan tambahan, pemberitahuan ke orang tua, dan Quiet Hours. Namun, pakar keselamatan anak seperti Robbie Torney dan Josh Golin menyoroti kurangnya bukti independen bahwa fitur tersebut benar-benar efektif. Sistem membatasi bahasa romantis dan ketergantungan emosional, serta menandai percakapan berisiko untuk ditinjau manual. Sejak September 2024, ChatGPT untuk remaja dikembangkan setelah kasus kematian Adam Raine yang menyoroti risiko penggunaan AI oleh remaja. Pew Research menunjukkan 25% remaja AS menggunakan ChatGPT untuk sekolah pada Maret 2025. Para pakar meminta data tentang jumlah percakapan yang ditandai, moderator yang terlibat, dan waktu peninjauan untuk memastikan keamanan.