Alat Untuk Menghilangkan Bias dari Komputer Vision: Bagian 1 – Para peneliti di Universitas Princeton telah mengembangkan alat yang menandai potensi bias dalam kumpulan gambar yang digunakan untuk melatih sistem kecerdasan buatan (AI). Pekerjaan tersebut adalah bagian dari upaya yang lebih besar untuk memperbaiki dan mencegah bias yang telah merayap ke dalam sistem AI yang memengaruhi segalanya mulai dari layanan kredit hingga program hukuman ruang sidang.
Meskipun sumber bias dalam sistem AI bervariasi, salah satu penyebab utamanya adalah gambar stereotip yang terdapat dalam kumpulan besar gambar yang dikumpulkan dari sumber online yang digunakan para insinyur untuk mengembangkan visi komputer, cabang AI yang memungkinkan komputer mengenali orang, objek, dan tindakan. Karena fondasi visi komputer dibangun di atas kumpulan data ini, gambar yang mencerminkan stereotip dan bias masyarakat dapat secara tidak sengaja memengaruhi model visi komputer. sbobet asia
Untuk membantu membendung masalah ini pada sumbernya, para peneliti di Lab AI Visual Princeton telah mengembangkan alat sumber terbuka yang secara otomatis mengungkap potensi bias dalam kumpulan data visual. Alat ini memungkinkan pembuat dan pengguna kumpulan data untuk memperbaiki masalah representasi yang kurang atau penggambaran stereotip sebelum koleksi gambar digunakan untuk melatih model computer vision.
Dalam pekerjaan terkait, anggota Visual AI Lab menerbitkan perbandingan metode yang ada untuk mencegah bias dalam model computer vision itu sendiri, dan mengusulkan pendekatan baru yang lebih efektif untuk mitigasi bias.
Alat pertama, yang disebut REVISE (REvealing VIsual biaSEs), menggunakan metode statistik untuk memeriksa kumpulan data untuk potensi bias atau masalah kurangnya representasi dalam tiga dimensi: berbasis objek, berbasis gender, dan berbasis geografi. Alat yang sepenuhnya otomatis, REVISE dibangun di atas pekerjaan sebelumnya yang melibatkan pemfilteran dan penyeimbangan gambar kumpulan data dengan cara yang membutuhkan lebih banyak arahan dari pengguna. Studi ini dipresentasikan pada 24 Agustus di Konferensi Eropa virtual tentang Computer Vision.
REVISE mengambil stok konten kumpulan data menggunakan anotasi gambar yang ada dan pengukuran seperti jumlah objek, kejadian bersama dari objek dan orang, dan negara asal gambar. Di antara pengukuran ini, alat menampilkan pola yang berbeda dari distribusi median.
Misalnya, dalam salah satu kumpulan data yang diuji, REVISE menunjukkan bahwa gambar yang mencakup orang dan bunga berbeda antara pria dan wanita: Pria lebih sering muncul dengan bunga dalam upacara atau pertemuan, sedangkan wanita cenderung muncul dalam pengaturan panggung atau lukisan. (Analisis terbatas pada anotasi yang mencerminkan gender biner yang dirasakan orang yang muncul dalam gambar.)
Setelah alat mengungkapkan perbedaan semacam ini, “maka muncul pertanyaan apakah ini benar-benar fakta yang tidak berbahaya, atau jika sesuatu yang lebih dalam sedang terjadi, dan itu sangat sulit untuk diotomatiskan,” kata Olga Russakovsky, asisten profesor ilmu komputer dan kepala sekolah. penyidik Lab Visual AI. Russakovsky ikut menulis makalah dengan mahasiswa pascasarjana Angelina Wang dan Arvind Narayanan, seorang profesor ilmu komputer.
Misalnya, REVISE mengungkapkan bahwa objek termasuk pesawat terbang, tempat tidur, dan pizza lebih cenderung berukuran besar dalam gambar termasuk mereka daripada objek tipikal di salah satu kumpulan data. Masalah seperti itu mungkin tidak akan mengabadikan stereotip masyarakat, tetapi bisa menjadi masalah untuk melatih model visi komputer. Sebagai obatnya, para peneliti menyarankan untuk mengumpulkan gambar pesawat yang juga menyertakan label gunung, gurun atau langit.