Asisten Google sekarang akan mengeluh tentang perintah kasar

O Asisten Google itu adalah salah satu kecerdasan buatan yang paling hadir dalam kehidupan kita sehari-hari, tetapi semua penggunaan yang tinggi ini juga dapat membuka perintah yang kasar.

Dengan mengingat hal itu, the Google meluncurkan pembaruan baru yang menampilkan tanggapan cerdas dari asisten pribadi Anda, berfokus pada mendidik dan terutama memberi sinyal bahwa perilaku keliru seperti itu tidak boleh digunakan dengan kecerdasan buatan atau dalam kehidupan nyata.

Kebaruannya mirip dengan pembaruan BIADari Bradesco, yang mulai menanggapi serangan misoginis dan pelanggaran lainnya. Lihat semua detailnya sekarang.

Pembaruan sedang disiapkan sejak 2020

Dengan nama#jangan bicara padaku seperti itu, atau Google mulai menyiapkan tanggapan baru ketika dia menerima laporan Saya akan Tersipu jika Saya Bisa da UNESCO yang dirilis pada tahun 2019 dan mengisyaratkan bahwa penggunaan suara dengan intonasi perempuan membantu melanggengkan bias gender. 

Arpita Kumar, apa yang Ahli Strategi Konten Senior di Tim Kepribadian Asisten Google, mulai mengerjakan ide yang dirilis hari ini (03), tetapi dapat dianggap sebagai pembaruan yang sedang berlangsung. Bahkan karena, istilah baru dianggap dan lebih banyak digunakan sebagai pelanggaran setiap hari.

Selama acara pengumuman tanggapan baru dari Asisten Google, Arpita menunjukkan bahwa semua pekerjaan masih dilakukan secara manual, tetapi seiring waktu, pengembangan algoritma hanya untuk mendaftarkan istilah baru dan respons yang sesuai dapat dilakukan.

Sebelum dirilis ke semua pengguna, pengujian kecil dilakukan dengan sebagian kecil publik dan yang mengejutkan, ada pertumbuhan 6% dalam umpan balik untuk asisten pribadi. Setelah menerima tanggapan yang tidak diharapkan, orang yang berpartisipasi dalam analisis mulai meminta maaf atau bahkan mempertanyakan mengapa perilaku tersebut tidak boleh digunakan.

Bagaimana perintah kasar diidentifikasi?

OGasisten Google itu tersedia di 95 negara dan dapat mengirim dan memahami perintah dalam 29 bahasa berbeda, yang memungkinkan perusahaan pengembang memiliki akses ke sejumlah besar perintah yang dapat dihindari.

Arpita Dibagikan bahwa proses identifikasi dimulai dengan memfilter apa yang dikatakan oleh pengguna, sehingga peninjauan dapat dilakukan di latar belakang.

Penciptaan jawaban baru terjadi segera setelah itu. Buku, artikel, dan konten lain yang dibuat oleh wanita digunakan sebagai dasar untuk membuat jawaban, karena di seluruh dunia, asisten pribadi Google dengan intonasi yang dianggap feminin mengalami lebih banyak serangan.

Ini tidak berarti bahwa suara oranye Asisten Google (dengan intonasi laki-laki) tidak diserang. Pengguna menggunakan alasan bahwa "bukan orang sungguhan" untuk mengucapkan perintah dengan nada homofobik, menjadi satu dari sepuluh pelanggaran terdaftar. Suara oranye dirilis selama setahun terakhir dan sudah mendapatkan serangan yang dapat dengan mudah direproduksi dalam kehidupan nyata.

Apa jawaban barunya?

Ketika perintah yang dianggap ofensif diidentifikasi oleh sistem, respons khusus akan dikirim melalui suara, alih-alih semuanya diambil dengan humor atau diarahkan ke pencarian internet. Dengan cara itu:

Selain berbicara, Asisten Google akan mendidik penggunanya agar perilaku yang sama tidak dibawa ke "kehidupan nyata". Perusahaan tidak akan melarang pengguna yang memiliki pendekatan yang tidak pantas, tetapi akan mencoba mengubah cara berpikir mereka sehingga orang yang dekat dengan mereka tidak mengalami serangan yang sama. Lihat contoh lain:

Asisten Google di Brasil

Brasil adalah salah satu negara yang paling banyak menggunakan Asisten Google dan di peringkat dunia, kita berada di posisi ketiga dalam daftar negara dengan pengguna paling aktif. Dengan datangnya pandemi COVID-19, penggunaan meningkat dan perusahaan memutuskan bahwa orang Brasil akan menjadi salah satu yang pertama menerima berita tersebut.

Bahasa Portugis adalah bahasa dengan beberapa variasi dan agar jawaban baru tersedia, tim internasional berkolaborasi dengan spesialis Brasil. Berdasarkan maia jahat, Kepala Pemasaran di Asisten Google untuk Amerika Latin, 200 istilah disisipkan yang dianggap sebagai perintah kasar dan harus mendapat tanggapan khusus.

Masih pada data di Brazil, 2% interaksi dengan Asisten Google kasar dan 15% dari mereka memiliki istilah misoginis bahkan pelecehan seksual. Setiap hari, wanita menderita dalam situasi yang berbeda Google, melalui perubahan tersebut, ingin mengubah pemikiran para penggunanya.

Masukkan ke dalam angka: 22% dari serangan untuk suara merah memiliki beberapa ucapan misoginis dan 13% dari komentar yang diarahkan ke suara oranye adalah tentang penampilan fisik (2% di antaranya melibatkan misogini).

Asisten pribadi berhenti menggunakan "tolong" saat meminta rasa hormat, karena tim memahami bahwa rasa hormat tidak boleh diminta dengan sopan. Ungkapan "Jangan bicara padaku seperti itu" lebih ideal untuk mendidik dan menunjukkan bahwa perilaku seperti itu bahkan tidak boleh ditujukan kepada asisten pribadi atau orang dalam kehidupan nyata.

Jawaban baru tersedia mulai hari ini (03) untuk semua pengguna dan pembaruan akan terus berlanjut, segera setelah perintah kasar baru mulai diucapkan lebih sering ke Asisten Google. Apa pendapat Anda tentang pembaruan? Beritahu kami kami Komentar!

Lihat juga

Lihat yang baru di Google Penelusuran untuk pemilu 2022.

Sumber: Google