Warta Ekonomi.co.id, Bogor

Penelitian internasional dari Deborah Raji menyebut, teknologi pengenalan wajah ternyata menunjukkan bias terhadap ras dan gender tertentu--baik dalam penggunaan maupun pengembangannya.

Itu terbukti terjadi pada perangkat pengenalan wajah Amazon (Rekognition). Maka ketika Amazon melarang polisi menggunakan teknologi pengenalan wajahnya selama setahun ke depan, seharusnya Raji merasa lega.

Asal tahu saja, Raji pernah menemukan fakta, "rekognition salah mengidentifikasi wanita sebagai pria 19% sepanjang penggunaannya."

Baca Juga: Bintang Emon Diserang Buzzer Gegara Sindir Tuntutan Kasus Novel, Warganet: Kacau!

Baca Juga: Terungkap! Badan Intelijen Kanada Sekongkol dengan AS 'Tuk Tangkap Putri Miliarder, Kata . . . .

Selain Amazon, IBM juga mengumumkan rencananya meninggalkan pasar pengenalan wajah. CEO IBM, Arvind Krishna menentang penggunaan teknologi itu dalam pemantauan massa para peserta aksi di Amerika Serikat (AS) selama bertahun-tahun. Namun, dua perusahaan itu tak menyebutkan temuan-temuan para peneliti--yang mayoritasnya merupakan people of color.

Selain Raji, penelitian dari Joy Buolamwini dan Temnit Gebru pada 2018 juga menyebut, "masalah bias pengenalan wajah tak hanya datang dari sejumlah perangkat seperti IBM."

Berkat makalah-makalah penelitian itu, kini isu bahaya pengenalan wajah menjadi sorotan di kalangan anggota parlemen dan pejabat AS.

"Tiap kali mereka (perusahaan teknologi) melangkah maju (dalam riset/penelitian teknologi pengenalan wajah), mereka hampir tak pernah menyebut nama kami," aku Raji.

Padahal, advokasi publik sangat penting untuk menarik peneliti dan pendanaan di masa depan. Itu juga bisa membantu pengembang dan perusahaan mengatasi masalah dalam teknologi baru.

CEO AI For The People, Mutale Nkonde mengatakan, "yang tidak disadari ialah: hal tersebut membuat imajinasi revolusioner kolektif kami dilucuti. Ini membuat orang berpikir kalau hanya orang kulit putih dan kaya yang dapat menggerakkan dunia."

Ikuti Whatsapp Channel Republika