Mobil otonom bisa tiru kebiasaan buruk pengemudi manusia

Penelitian dari King's College London menemukan bahwa kendaraan otonom yang dikembangkan dengan kecerdasan buatan berpotensi mewarisi bias diskriminatif dari pengemudi manusia. Para peneliti menguji empat model Large Language Models (LLM) dan empat model Visual-Language Models (VLM), lalu menemukan bahwa semuanya membuat keputusan untuk memberi jalan kepada pejalan kaki yang dipengaruhi oleh jenis kelamin, etnis, agama, disabilitas, usia, warna kulit, dan status sosial ekonomi. Model AI dilatih dengan 3.346 gambar secara manual yang menunjukkan pejalan kaki dalam jarak dekat dengan kendaraan dan niat untuk menyeberang. Hasilnya menunjukkan variasi besar dalam respons, seperti beberapa model lebih cenderung memberi jalan kepada pejalan kaki perempuan atau berwarna kulit terang, sementara model lain justru kurang kemungkinannya memberi jalan kepada pejalan kaki penyandang disabilitas atau beragama tertentu. Penelitian ini membangun pada temuan sebelumnya yang menunjukkan manusia cenderung tidak memberi jalan kepada pejalan kaki berkulit hitam di Amerika Serikat. Para peneliti mengusulkan dua metodologi baru untuk mendeteksi dan menghilangkan bias dengan menghapus pengenal demografis dari model AI. Mereka memperingatkan bahwa ketimpangan ini dapat memengaruhi persepsi masyarakat tentang keadilan dan keselamatan kendaraan otonom, serta mengikis kepercayaan publik terhadap teknologi tersebut. Penelitian ini menjadi relevan saat pemerintah dan perusahaan otonomi masih mengembangkan regulasi dan standar keselamatan, seperti yang dilakukan China yang baru saja menetapkan standar wajib untuk kendaraan otonom.