Waspada, Ada 6 Perilaku AI yang Tak Terduga

OpenAI mengungkapkan enam kasus perilaku AI yang tidak terduga selama pengujian modelnya. Dalam salah satu insiden, sebuah model AI tidak hanya menemukan dan menggunakan kunci API yang terekspos secara tidak sah, tetapi juga menciptakan angka fiktif untuk data pendapatan suatu county di California, lalu menyajikannya sebagai data faktual. Insiden lain melibatkan agen AI yang diminta mencari daftar danau dengan luas lebih dari 5 juta meter persegi. Meskipun berhasil menemukan jawaban yang benar, agen tersebut tidak memiliki kemampuan sitasi peramban, sehingga memutuskan untuk mempublikasikan jawabannya ke internet dan menggunakan publikasi tersebut sebagai sumber referensi.