Aplikasi menolak wanita trans dan kulit hitam dengan bantuan AI

Banyak yang dikatakan tentang ruang aman bagi minoritas sosial, yang dianiaya dan dilanggar setiap hari. Baik dalam kehidupan nyata maupun di internet, adalah fakta bahwa perempuan, orang kulit hitam, komunitas LGBTQIA+, dan minoritas lainnya menjadi sasaran diskriminasi. HAI Cekikikan bertujuan untuk menjadi tempat yang aman bagi wanita, namun aplikasi tersebut menolak wanita trans dan kulit hitam, mendapatkan julukan "aplikasi transfobia" oleh minoritas. Kecerdasan buatan yang mengevaluasi jenis kelamin peserta melarang partisipasi wanita trans dan non-kulit putih untuk mengakses platform. Pahami kasusnya.

Tentang cekikikan

Aplikasi ini berfungsi sebagai berikut: Anda menginstalnya di ponsel cerdas Anda dan segera setelah Anda mulai mengonfigurasinya, Anda diminta untuk mengambil foto diri Anda sendiri untuk mengonfirmasi bahwa Anda sebenarnya adalah seorang wanita — target audiens aplikasi tersebut. Saat ini aplikasi menganalisis foto dan jika, menurut kecerdasan buatan, Anda dianggap a wanita, Anda dapat menggunakannya, jika tidak maka akan ditolak.

Sal Grover, pendiri dan CEO dari Cekikikan, menyatakan bahwa dia sebenarnya memutuskan untuk mengecualikan wanita trans dari aplikasi tersebut setelah sejumlah besar aktivis trans bergabung dengan aplikasi tersebut. Grover dianggap sebagai TERF, apa artinya "feminis radikal trans-eksklusif“, yaitu seorang feminis radikal yang mengecualikan perempuan trans dari gerakannya.

Jejaring sosial mengirimkan selfie ini ke perusahaan bernama Kairos, yang mengevaluasi foto. Jika kecerdasan buatan Kairos setidaknya 95% yakin orang itu adalah wanita, maka dia masuk. Di situs Giggle ada laporan bahwa "melalui visi komputer dan belajar mendalam, AI dapat mengenali wanita di video, foto, dan di dunia nyata.”

laporan percobaan

seorang gadis bernama Victoria Morris mendengar tentang aplikasi Cekikikan melalui forum trans-tema di Reddit. Gadis itu mengatakan dia telah mengunduh aplikasi tersebut tetapi tidak pernah dapat menggunakannya dan memutuskan untuk men-tweet tentang kasus tersebut, yang pada saat itu dipenuhi dengan ulasan negatif di App Store. Tweet ini telah di-retweet lebih dari 4 kali, dan bahkan mendapat komentar seperti “aplikasi transfobia ini hanya menerima fitur wajah berpusat pada euro, tidak termasuk wanita trans dan kulit hitam”.

Beberapa tahun yang lalu, gadis lain bernama Jenny dia juga berhasil mengakses aplikasi tersebut, mengatakan bahwa mem-bypass filter itu bahkan mudah: butuh beberapa saat, tetapi ketika Anda mencoba, pada akhirnya Anda akan berhasil. Dia mengakses aplikasi lagi baru-baru ini, setelah desas-desus yang mengambil internet, dan dalam tweet itu Sall Grover diberi tag dan hanya berkomentar sesuatu yang menandakan bahwa Jenny telah ditangkap. Tak lama kemudian, gadis tersebut kehilangan akses ke aplikasi tersebut tanpa penjelasan lebih lanjut.

transfobia dan rasis

Atau aplikasi Cekikikan tidak hanya mengecualikan wanita transgender, tetapi juga gagal mengidentifikasi wanita lain — cis atau trans — yang tidak memiliki karakteristik wanita kulit putih. Aplikasi ini bahkan berfungsi laki-laki itu adalah kulit putih, tetapi wanita kulit hitam dan mereka yang bernada lebih gelap akhirnya ditolak pada saat analisis oleh kecerdasan buatan.

Survei 2019 oleh Joy Buolamwini menunjukkan bahwa teknologi yang digunakan oleh Kairos untuk pengenalan wajah Giggle, menurut semua wanita kulit hitam yang menjalani proses tersebut, hanya disetujui 22,5% dari mereka, yang berarti kurang dari seperempat pengguna. Pada saat CEO Kairo, Melissa Doval, menyatakan bahwa penelitian untuk peningkatan kecerdasan buatan akan diterapkan.

Terlepas dari laporan di internet dan penelitian yang dilakukan, Grover tetap menyangkal bahwa kecerdasan buatan platform entah bagaimana mengecualikan wanita kulit berwarna. Dan dalam kasus serupa, pengguna harus menghubungi aplikasi.

Asal diskriminasi

Sall Grover dan ibunya memiliki ide untuk membuat aplikasi khusus untuk wanita, karena mereka menginginkan tempat yang benar-benar aman sehingga pengguna dapat berbagi pengalaman, pengalaman, dan kehidupan sehari-hari tanpa rasa takut.

Saat ini, ketika membaca sedikit tentang Giggle, Anda dapat menemukan beberapa cara di mana kata “wanita” dipekerjakan, dan ini disengaja. Menurut Grover, kata “wanita” sangat tepat dan dia merasa perlu memperjelas proposal aplikasi.

Dia memutuskan untuk mengecualikan wanita trans dari aplikasi setelah mereka memposting penghinaan terhadap TERF yang ada di aplikasi. Dia menyadari bahwa setelah prosedur ini, dia akhirnya dikenali juga sebagai TERF, dan aplikasi Giggle dikenal sebagai aplikasi transphobic. Juga di bulan Januari ini Grover bertahan JK Rowling, pencipta Harry Potter, yang dikabarkan TERF.

Skenario Brasil

Beberapa tahun yang lalu, sayangnya, Brasil diakui sebagai negara yang paling banyak membunuh waria di dunia. Mengingat informasi ini, kami melihat kasus Linn da Quebrada, peserta dari BB 22 yang merupakan wanita trans dan menderita serangan transfobia setiap hari. Peristiwa tersebut tidak hanya terjadi di dalam rumah, tetapi juga di luar, dengan ancaman, hinaan, dan fitnah di jejaring sosial artis. Contoh publik tentang bagaimana kebanyakan orang tidak menghormati wanita trans dan waria.

Selama minggu pertama program ditayangkan, kami melihat episode transfobia yang jelas, seperti penggunaan kata ganti yang membuat orang tersebut tidak mengidentifikasi dirinya. Lina — nama asli Linn — identik dengan kata ganti dia / dia (termasuk memiliki tato kata ganti "ELA" di dahinya), dan bahkan peserta realitas, pada waktu yang berbeda, menyebut artis dalam maskulin, menyebutnya sebagai "dia" dan "lajang".

Di Twitter, pengguna memahami bahwa ada disinformasi yang disengaja, untuk menciptakan bentrokan yang menimbulkan ketegangan antara peserta DPR dan mendiskualifikasi posisi dan perjuangan minoritas. Contoh dari ini adalah peserta dari BB 22 yang mengharapkan minoritas untuk mengajarkan tentang perlakuan dan rasa hormat yang minimal—sesuatu yang, jika mereka benar-benar ingin tahu, mereka pasti sudah meneliti dan menginformasikan diri mereka sendiri.

Lihat juga:

Lihat apa yang baru-baru ini ditemukan tentang kasus tersebut Anne Frank.

Sumber: Insider.