Temuan Komentar Rasis Ungkap Sisi Gelap Meta Muse

Meta sempat menguji fitur 'human concierge' pada AI agent Muse, di mana operator manusia mengambil alih panggilan ketika AI tidak dapat menyelesaikan tugas. Pengujian ini dilakukan untuk mengumpulkan masukan sebelum rilis publik. Namun, seorang karyawan menemukan komentar bernada rasis dalam transkrip panggilan yang ditangani oleh operator manusia. Meta pun meminta maaf dan mengakui penggunaan manusia dalam pengujian ini sebagai kesalahan. Fitur human concierge kemudian ditarik kembali dari pengujian. Meski keterlibatan manusia meningkatkan keberhasilan panggilan hingga 90%, Meta menyatakan akan menyelesaikan isu privasi dan keamanan sebelum merilis fitur panggilan Muse secara luas. Muse dirancang untuk melakukan tugas seperti reservasi atau menanyakan ketersediaan barang melalui panggilan telepon, lalu menghasilkan transkrip dan ringkasan.