Miscellaneous

Mobil Otonom Tidak Dapat Mengenali Pejalan Kaki dengan Warna Kulit Lebih Gelap

Mobil Otonom Tidak Dapat Mengenali Pejalan Kaki dengan Warna Kulit Lebih Gelap

Sebuah laporan baru menunjukkan bahwa sistem yang dirancang untuk membantu mobil otonom mengenali pejalan kaki mungkin kesulitan mengenali orang dengan warna kulit lebih gelap. Riset yang mengkhawatirkan telah diunggah ke server pracetak arxiv.

LIHAT JUGA: BIAS DALAM KECERDASAN ARTIFICIAL MEMBUTUHKAN DISIPLIN DAN KASIH

Bukti sudah ada bahwa beberapa perangkat lunak pengenalan wajah kesulitan bekerja dengan warna kulit yang lebih gelap. Namun hasil studi tentang mobil otonom memiliki hasil yang berpotensi mematikan.

Bias pertunjukan terbaik dunia

Para peneliti dari Georgia Tech menyelidiki delapan model AI yang digunakan dalam sistem deteksi objek canggih untuk menyelesaikan studi mereka. Sistem ini memungkinkan kendaraan otonom mengenali rambu jalan, pejalan kaki, dan objek lain saat mereka menavigasi jalan.

Mereka menguji sistem ini menggunakan dua kategori berbeda berdasarkan skala Fitzpatrick. Skala yang biasa digunakan untuk mengklasifikasikan warna kulit manusia.

Kulit yang lebih gelap berisiko lebih tinggi

Secara keseluruhan, keakuratan sistem menurun 5 persen saat sistem ditampilkan dengan sekelompok gambar pejalan kaki dengan warna kulit lebih gelap. Dan menurut makalah yang diterbitkan, model tersebut menunjukkan "kinerja yang lebih buruk secara seragam" ketika dihadapkan dengan pejalan kaki dengan tiga warna paling gelap pada skala tersebut.

Hasil ini muncul setelah hasil disesuaikan untuk mempertimbangkan apakah foto diambil pada siang atau malam hari. Singkatnya, laporan tersebut menunjukkan bahwa orang dengan warna kulit lebih gelap akan kurang aman di dekat jalan yang didominasi oleh kendaraan otonom dibandingkan mereka yang berkulit lebih terang.

Penghapusan bias dimulai dengan keragaman dalam penelitian

Untungnya, laporan tersebut memberikan garis besar singkat bagaimana memperbaiki kenyataan yang tidak terduga ini. Ini dimulai dengan hanya meningkatkan jumlah gambar pejalan kaki berkulit gelap dalam kumpulan data yang digunakan untuk melatih sistem.

Insinyur yang bertanggung jawab untuk pengembangan sistem ini perlu lebih menekankan pada pelatihan sistem dengan akurasi yang lebih tinggi untuk grup ini.

Laporan tersebut, yang menurut penulis mereka berharap memberikan bukti yang cukup kuat untuk mengatasi masalah kritis ini sebelum menerapkan sistem pengenalan ini ke dunia, adalah pengingat lain dari kurangnya keragaman di dunia AI secara umum.

Sayangnya, ini bukan laporan pertama tentang potensi rasisme mematikan dalam sistem bertenaga AI. Pada bulan Mei tahun lalu, ProPublica melaporkan bahwa perangkat lunak yang digunakan untuk membantu hakim dalam menentukan risiko yang ditimbulkan oleh pelaku untuk melakukan kejahatan bersifat bias terhadap orang kulit hitam.

Profil rasial itu mematikan

Sistem yang digunakan oleh hakim dalam menjatuhkan hukuman pidana, ini memberikan skor berdasarkan apakah orang tersebut cenderung melakukan pelanggaran ulang. Skor yang tinggi menunjukkan bahwa mereka akan melakukan pelanggaran ulang, skor yang rendah menunjukkan kemungkinannya kecil.

Para jurnalis investigasi menilai skor risiko yang diberikan kepada lebih dari 7000 orang di Broward County di Florida pada 2013 dan 2014 dan kemudian mengamati untuk melihat apakah orang yang sama dituduh melakukan kejahatan baru dalam dua tahun ke depan.

Algoritme tersebut tidak hanya terbukti tidak dapat diandalkan, tetapi hanya 20 persen orang yang diprediksi melakukan kejahatan dengan kekerasan yang melakukannya. Itu juga bias secara rasial.

Terdakwa kulit hitam lebih mungkin untuk ditandai sebagai penjahat masa depan, salah memberi label pada mereka hampir dua kali lipat dari tingkat terdakwa kulit putih. Sementara terdakwa kulit putih lebih sering salah diberi label sebagai risiko rendah daripada terdakwa kulit hitam.

Komunitas pengembangan AI harus bersatu dan mengambil sikap publik terhadap bias yang sangat merusak ini.


Tonton videonya: REVIEW MOBIL VOLVO: VOLVO 960 MOBIL MENTERI ERA ORDE BARU. MOBIL BEKAS REKOMENDASI (September 2021).