Baru baru ini dikabarkan bahwa mesin pencari Bing, Google dan DuckDuckGo mendapatkan kecaman karena menempatkan pornografi deepfake AI non konsensual dibagian atas beberapa hasil pencarian tertentu.
Kecamanan ini terjadi setelah NBC News menerbitkan artikel yang menyoroti beberapa kekhawatiran terkait aksesibilitas pornografi berbasis AI yang sangat mudah untuk diakses pengguna.
Nah dilansir dari Neowin, Video deepfake eksplisit dapat dibuat dengan menggunakan materi pornografi asli dan mengganti wajah aktor atau (paling sering) aktris dengan kemungkinan wajah orang tertentu seperti misalnya, selebriti. Peralihan tersebut dilakukan secara otomatis oleh kecerdasan buatan sehingga pengguna yang membuat gambar palsu hanya perlu memberi AI foto-foto korban.
Selain itu, menurut pengujian yang dilakukan oleh NBC News terhadap sampel 36 selebritas wanita dengan menggunakan kombinasi nama dan kata “deepfakes”, Bing dan Google di hampir semua kasus menampilkan video dan gambar deepfake nonkonsensual di bagian atas hasil pencarian. Dan karena saya penasaran, tentu sayapun mencobanya, dan benar saja guys, ini sesuai dengan apa yang diungkapkan NBC News.
Nah secara default memang Google menampilkan gambar ekspisit, namun biasanya gambar tersebut ditampilkan dengan blur, apalagi jika fitur safesearch diaktifkan.
Dapat dikatakan bahwa aksesibilitas yang mudah terhadap pornografi yang digerakkan oleh AI adalah masalah yang relevan dan siapa pun yang menelusuri jenis konten ini kemungkinan besar akan mematikan fitur perlindungan yang ada di dalamnya. Konten deepfake eksplisit non-konsensual pada dasarnya ilegal dan oleh karena itu termasuk dalam jenis konten yang harus ditangani oleh Microsoft, Google, dan pihak lain.
Mendapati kabar dan laporan ini, tampaknya hanya Microsoft satu-satunya perusahaan yang tidak menanggapi permintaan komentar NBC News. Dilain pihak Juru bicara DuckDuckGo mengatakan sumber utamanya untuk tautan web dan hasil gambar adalah Bing. Selain itu, DuckDuckGo menawarkan cara untuk mengirim permintaan terkait privasi , misalnya meminta konten tertentu untuk dihapus dari pencarian.
AI memang keren, memang bermanfaat, namun sekali lagi AI bisa dimanfaatkan untuk hal negatif, nah bagaimana menurutmu? komen dibawah guys.
