- Beranda
- Sains & Teknologi
Algoritma Kecerdasan Buatan Bisa Jadi Rasis
...
TS
rinaldikarza
Algoritma Kecerdasan Buatan Bisa Jadi Rasis
The New Republic menerbitkan sebuah artikel bahwa algoritma yang digunakan dalam sistem kecerdasan buatan bisa jadi rasis.
The article berjudul “Ternyata Algoritma itu Rasis” ditulis oleh Navneet Alang yang mengklaim bahwa berdasarkan informasi yang diberikan kepada sistem kecerdasan buatan atau Artificial Inteligent (AI), beberapa hasil yang diberikan adalah rasis.
“Ternyata kecerdasan buatan itu mungkin sama fanatiknya dengan manusia,” kata Alang di baris pertama. Kutipan dari klaim ini terkait dengan sebuah studi tentang sistem pengenalan citra buatan yang “diajarkan” untuk mengidentifikasi area dengan memindai sejumlah gambar.
Profesor Vicente Ordóñez mencatat sebuah pola dengan sistem tersebut. “Ini akan melihat gambar dapur dan lebih sering mengaitkannya dengan wanita, bukan laki-laki.”
Hal ini disebabkan oleh gambaran yang diterima sistem AI dan belajar dari sebagian besar wanita ditampilkan berperan seperti memasak atau berbelanja, sementara pria dikaitkan dengan pembinaan atau menembak.
Alang kemudian mencatat contoh-contoh AI yang menyatakan mendiskriminasi warga berkulit hitam, ” Penyelidikan ProPublica mengungkapkan bahwa sistem peradilan menggunakan AI untuk memprediksi potensi kemungkinan terjadinya kejahatan kambuhan. Kesimpulan yang tidak benar, bahwa orang-orang tergugat berkulit hitam lebih mungkin berpotesi menjadi penjahat di masa
Kecerdasan Buatan
Artikel selanjutnya menjelaskan bahwa sementara banyak orang percaya bahwa “kecerdasan buatan” menggambarkan sistem komputer yang dapat berpikir untuk dirinya sendiri. Istilah yang biasanya digambarkan oleh AI hanya “pembelajaran mesin”. Dimana sebuah proses sistem dapat mengenali atau memahami situasi atau foto tertentu begitu diberi cukup data referensi untuk membandingkan informasi baru.
“Jelas, ponsel kita bukanlah makhluk kecil di dalam kantong kita. Tapi berisi banyak aplikasi yang menggunakan kecerdasan buatan untuk melakukan banyak hal. Seperti mengenali wajah atau gambar, bereaksi terhadap konteks seperti menambahkan lokasi seseorang ke pesan. Atau memahami perintah melalui suara,” jelas Alang.
Solusi Alang untuk memerangi bias yang melekat yang muncul dalam sistem AI adalah mendekatkan pemograman dan data/informasi yang diterima AI spesifik memiliki perspektif keadilan sosial.
“Karena pembelajaran mesin dan AI beroperasi melalui pengumpulan, penyaringan, dan kemudian belajar dari dan menganalisis data yang ada. Mereka akan meniru bias struktural yang ada kecuali jika dirancang secara eksplisit untuk menjelaskan dan melawannya,” tulis Alang.
“Untuk mengatasi situasi ini, sebuah pendekatan akan memerlukan perspektif berorientasi keadilan sosial yang spesifik. Yang mempertimbangkan bagaimana ekonomi saling terkait dengan jenis kelamin, ras, seksualitas, dan sejumlah faktor lainnya.”
Tampaknya beberapa kelompok mungkin telah mengambil langkah untuk menggabungkan keadilan sosial dan kecerdasan buatan.
Kecerdasan Buatan
AI Now, sebuah kelompok penelitian yang berbasis di New York dipimpin oleh Kate Crawford dan Meredith Walker, telah bekerja untuk lebih memahami bagaimana AIworks, metode penerapan AI yang berbeda dan bagaimana mereka dapat memerangi prasangka yang mungkin dimiliki oleh AI. Kelompok ini baru-baru ini menerbitkan serangkaian saran tentang bagaimana memperbaiki AI tulis Alang.
Saran-saran diantaranya, “sumber daya yang didedikasikan untuk melakukan diversifikasi berbagai input untuk sistem AI. Terutama yang berkaitan dengan kelompok-kelompok termarjinalkan atau terpinggirkan secara sosial. Foto pria yang melakukan yang sedang mencuci baju, keakraban antar ras dan agama, atau perempuan jadi montir. ”
Alang juga menyatakan bahwa mempekerjakan sekelompok insinyur AI yang lebih beragam dapat membantu memerangi prasangka AI.
Sumber
0
17K
129
Guest
Tulis komentar menarik atau mention replykgpt untuk ngobrol seru
Mari bergabung, dapatkan informasi dan teman baru!
Sains & Teknologi
15.5KThread•10.9KAnggota
Terlama
Guest
Tulis komentar menarik atau mention replykgpt untuk ngobrol seru