Mobil Self-Driving Rasis? Orang Kulit Hitam Memiliki Kemungkinan Lebih Besar Ditabrak

Beranda

...

The Lounge
Mobil Self-Driving Rasis? Orang Kulit Hitam Memiliki Kemungkinan Lebih Besar Ditabrak

machin

25-01-2022 14:05

Mobil Self-Driving Rasis? Orang Kulit Hitam Memiliki Kemungkinan Lebih Besar Ditabrak

Sumber ilustrasi | Google Image

Sekarang ini adalah jamannya dunia Artificial Intelligent, sederhananya jaman dengan teknologi yang disetting biar bisa lebih mandiri, atau menggunakan campur tangan manusia yang lebih sedikit. Bahkan mungkin beberapa teknologi hanya membutuhkan menekan satu tombol saja untuk mengaktifkan teknologi tingkat lanjut ini.
Salah satu teknologi yang menggunakan AI ini adalah mobil yang bisa berkendara sendiri atau Self-Drving Cars. Mobil-mobil ini mulai banyak sekali yang memilikinya dan sudah diproduksi secara masal. Meskipun hanya orang-orang berduit saja yang bisa (tapi mau) menikmati kecanggihan teknologi ini setiap hari.

Sumber ilustrasi | Google Image

Apakah teknologi itu benar-benar sempurna? Ternyata belum benar-benar sempurna. Masih ada kecacatan yang perlu diperbaiki secara berkala. Apa itu kecacatannya? Kecanggihan teknologi ini masih 'rasis' sama manusia. Rasis gimana? Rasis karena orang yang memiliki kulit hitam memiliki kemungkinan lebih besar untuk tidak terdeteksi oleh 'penghilatan' teknologi ini. Bukannya itu rasis? emoticon-Ngacir

Hal yang cukup menjadi masalah bagi para ilmuwan yang mengembangkan Artificial Intelligent ini adalah pengenalan wajah. Bahkan AI di twitter juga auto rasis terhadap foto yang mereka unggah di twitter. Mereka yang memiliki kulit hitam tidak terdeteksi bahkan hilang dari preview foto di timeline twitter.

Foto dua orang dengan warna kulit berbeda | Vox

Mau tahu bagaimana twitter memperlakukan foto tersebut? Twitter memperlakukan seolah wajah orang yang berkulit hitam bukanlah wajah manusia. Jadi yang nampak di timeline adalah wajah orang yang berkulit putih.

Foto dua orang dengan warna kulit berbeda | Vox

Kalau di timeline twitter saja tidak memiliki resiko yang terlalu besar, meskipun ini juga menjadi sebuah masalah tersendiri. Kalau wajah dengan kulit hitam lebih diabaikan oleh sistem dengan AI yang digunakan oleh mobil saat mobil tersebut sedang dalam kondisi berkendara secara otomatis ya jadi masalah. Masalahnya adalah keselamatan orang lain. Kan nggak mungkin orang dengan kulit gelam diminta untuk menggunakan bedak biar kelihatan putih?
Dalam sebuah makalah baru yang diterbitkan di arXiv, para peneliti dari Institut Teknologi Georgia melakukan penelitian terhadap delapan model AI yang digunakan dalam sistem canggih deteksi objek. Ini adalah sistem yang memungkinkan kendaraan otonom (Autonomous Vehicles) mengenali rambu jalan, pejalan kaki, dan objek lainnya. Mereka menguji model ini menggunakan gambar pejalan kaki yang dibagi menjadi dua kategori berdasarkan skor mereka pada skala Fitzpatrick [PDF], yaitu cara yang biasanya digunakan untuk mengklasifikasikan warna kulit manusia.[1]

Sumber screenshot | Predictive Inequity in Object Detection

Berdasarkan penelitian tersebut, model menunjukkan "kinerja yang lebih buruk secara seragam" ketika dihadapkan dengan pejalan kaki dengan tiga warna paling gelap dengan skala. Rata-rata, akurasi model menurun 5 persen ketika memeriksa kelompok yang menangkap gambar pejalan kaki dengan warna kulit lebih gelap, bahkan nilai 5 persen itu tidak hanya terjadi saat siang hari, itu juga berlaku pada saat malam hari.
Lalu apa solusinya? Solusinya dengan menambah data dengan pejalan kaki yang berkulit gelap dan menambah bobot pada sistem tersebut agar sistem mampu mendeteksi gambar-gambar tersebut secara akurat.

--
Terimakasih sudah membaca trit malamku.
Sehat dan bahagia selalu. emoticon-rose