Troll membanjiri X dengan gambar palsu Taylor Swift yang dibuat oleh AI

Setelah tur dunia yang memenuhi stadion, penyanyi tersebut Taylor Swift kembali menjadi berita utama, tetapi untuk alasan yang kurang mulia: gambar palsu penyanyi tersebut, yang dihasilkan oleh kecerdasan buatan, dipublikasikan di X (Twitter) dan dilihat oleh jutaan pengguna, bahkan menyebabkan pencarian nama artis di jejaring sosial menjadi dilarang. Cari tahu lebih lanjut tentang kasus ini sekarang.

Pahami kasus gambar palsu Taylor Swift

Dalam beberapa hari terakhir, gambar palsu Taylor Swift — yang dihasilkan oleh AI — dengan konten eksplisit telah beredar di X, contoh lain dari gelombang pornografi yang terus-menerus dihasilkan oleh teknologi, selain kesulitan untuk membendungnya karena moderasi platform.

Salah satu postingan yang paling banyak dilihat, yang ditayangkan selama total 17 jam, menerima 45 juta penayangan, 24 kali dibagikan, dan ratusan ribu suka sebelum dihapus dan penggunanya — yang terverifikasi di platform — akun Anda ditangguhkan selama melanggar peraturan di X.

Namun hal ini tidak menahan badai gambar palsu penyanyi tersebut, yang terus beredar di jejaring sosial melalui postingan di akun lain, banyak di antaranya masih tersedia untuk dilihat. Akibatnya, subjek “Taylor Swift AI” melonjak ke puncak daftar istilah yang paling banyak dicari, yang semakin meningkatkan postingan palsu tentang artis tersebut.

Menurut situs web 404 Media, gambar palsu dari Taylor Swift mungkin dibuat oleh pengguna grup Telegram tempat gambar konten eksplisit yang melibatkan wanita yang dibuat oleh Microsoft Designer dibagikan setiap hari. Para anggota kelompok tersebut rupanya menyukai kenyataan bahwa gambar-gambar tersebut tersebar di media sosial, sehingga menjadikan kejadian tersebut sebagai hal yang remeh. 

Situs web tersebut menyatakan bahwa kelemahan sistem pada mekanisme pembuatan gambar AI yang berfungsi sebagai pintu gerbang gambar palsu telah diperbaiki, yang dikonfirmasi oleh Pemimpin Rekayasa Kecerdasan Buatan di Microsoft, Sarah Burung. Dia mengatakan bahwa penyelidikan atas masalah ini akan terus berlanjut dan sistem keamanan alat tersebut akan diperkuat untuk mencegahnya digunakan lagi untuk menghasilkan gambar seperti milik Taylor.

Apa yang X lakukan mengenai hal itu?

sudah di X, terdapat peraturan dan kebijakan mengenai gambar buatan dan manipulasi, selain ketelanjangan non-konsensual yang melarang konten jenis jaringan sosial ini. Meskipun ada kontak melalui saluran jurnalisme, perwakilan dari Taylor Swift dan NFL, liga sepak bola Amerika tempat pacarnya cepat, Ketua Kansas City Travis Kelce, yang akan bermain di Super Bowl Minggu depan, menolak mengomentari masalah tersebut. 

Menanggapi insiden dengan cepat, X menerbitkan catatan yang mengatakan bahwa tidak ada toleransi dalam kasus penyalahgunaan gambar ini dan bahwa tim jejaring sosial secara aktif berupaya untuk mengekang perilaku semacam ini di antara para penggunanya. Meski begitu, hal ini tidak menjadi alasan bagi jutaan penggemar penyanyi tersebut di seluruh dunia, yang mengkritik keras X karena membiarkan postingan palsu begitu lama.

Untuk mencoba menghapus hashtag yang bermasalah, para penggemar ini mulai memposting video asli Taylor maju dalam upaya untuk menutupi banyak kepalsuan yang masih tersedia untuk dilihat publik. 

Moderasi di X menurun

Meskipun terdapat banyak hambatan yang berupaya mencegah pembuatan gambar seperti Taylor menggunakan alat AI, tantangan untuk sepenuhnya mencegah hal ini terjadi sulit untuk diatasi, terlebih lagi dengan respons yang lambat dan tidak berhasil dari jejaring sosial seperti X, yang tim moderasinya telah melakukan hal tersebut. telah berkurang sejak diakuisisi oleh Musk.

Di Eropa, X sedang diselidiki terkait penggunaannya untuk menyebarkan disinformasi dan konten ilegal serta ditanyai mengenai upaya menghapus informasi palsu terkait konflik Israel dan Hamas dari platform yang ditemukan dalam beberapa bulan terakhir.

Sampai ada solusi ideal untuk masalah serius privasi dan gambar individu ini, kamu tidak boleh terlalu berhati-hati saat memposting foto dan video di media sosial, geng!   

LIHAT LEBIH BANYAK:

Apa yang dikatakan ulasan pertama Apple Vision Pro

Sumber: Verge

Diperiksa oleh Glaucon Vital pada 6/2/24.