Teknologi AI memang gila banget dan perkembangannya sangat cepat, namun sayangnya tidak semua pemanfaatnya membawa dampak positif, salah satu yang belakangan ini semakin mengkhawatirkan adalah munculnya berbagai aplikasi “nudity” yaitu aplikasi berbasis AI yang mampu mengubah foto seseorang menjadi seolah-olah tanpa pakaian hanya dalam hitungan detik.
Nah karena dianggap memfasilitasi penyebaran deepfake intim tanpa persetujuan (non-consensual intimate deepfake), pemerintah Kota San Francisco kini mengambil langkah tegas dengan meminta Apple dan Google menghapus puluhan aplikasi tersebut dari App Store dan Google Play.
Tapi Apa itu Aplikasi Nudity?
Bagi yang belum familiar, aplikasi nudify merupakan layanan AI yang menggunakan teknologi image generation atau image manipulation untuk membuat gambar palsu seseorang dalam kondisi telanjang hanya berdasarkan foto biasa.
Korbannya tentu bukan hanya public figur saja, namun siapapun yang memiliki foto di media sosial berpotensi menjadi sasaran, karena itulah aplikasi semacam ini semakin sering dikaitkan dengan pelecehan seksual digital, pemerasan, hingga penyebaran konten intim tanpa persetujuan.
Terlalu Lama Dibiarkan Apple dan Google
Nah menurut surat resmi yang oleh City Attorney San Francisco, David Chiu, Apple dan Google sebenarnya sudah berulang kali diperingatkan mengenai keberadaan aplikasi-aplikasi tersebut.
Bahkan sejak tahun lalu, kedua perusahaan disebut telah mengetahui bahwa beberapa aplikasi di toko mereka telah menjual layanan pembuatan deepfake intim, memproses pembayaran untuk layanan tersebut dan tetap tersedia meskipun diduga melanggar hukum California.
David Chiu bahkan menilai Apple dan Google ikut memperoleh keuntungan dari keberadaan aplikasi tersebut.
"Apple dan Google mendapatkan keuntungan dari aplikasi yang mengeksploitasi perempuan dan anak perempuan melalui deepfake intim tanpa persetujuan."
Nah tentu kasus ini bukan sekedar persoalan etika saja, karena di California sana, sudah ada undang-undang yang melarang siapa pun yang secara sengaja membantu atau memfasilitasi pembuatan konten pornografi deepfake tanpa persetujuan korban.
Bahkan sejak tahun 2025, korban juga diberikan hak untuk menggugat pihak ketiga yang dianggap ikut mempermudah penyebaran konten tersebut. Karena itu, jika Apple dan Google dianggap tetap membiarkan aplikasi tersebut beredar, keduanya berpotensi menghadapi tuntutan hukum dan sanksi perdata.
Lalu Apa Tindakan Kedua Perusahaan Besar Tersebut?
Nah menanggapi surat tersebut, Apple dan Google akhirnya memberikan respon dimana Apple menyatakan bahwa aplikasi nudify sebenarnya memang dilarang masuk ke App Store, mereka juga mengatakan telah menghapus tiga aplikasi yang dimaksud, menutup akun developer terkait dan memberikan peringatan kepada empat developer lain agar segera mematuhi kebijakan App Store.
Sementara itu, Google mengatakan bahwa lima aplikasi yang disebut dalam laporan juga telah ditangguhkan dari Google Play dan juga mereka mengklaim telah menangguhkan ratusan aplikasi serupa dan membatasi pencarian dengan kata kunci seperti nudity di Play Store.
Nah beberapa aplikasi yang sempat masuk dalam laporan Tech Transparency Project antara lain DreamFace, RemakeFace, AI Dress Up, hingga Best Body AI. Namun sebagian di antaranya kini telah dihapus atau ditangguhkan dari App Store maupun Google Play setelah mendapat sorotan.
Masalah Yang Makin Besar di Era AI
Nah kasus ini tentu menunjukan bahwa perkembangan AI ini memang membawa tantangan baru yang tidak bisa dianggap sepele, jika sebelumnya teknologi deepfake lebih sering digunakan untuk membuat video tokoh publik, kini aplikasi nudify membuat siapa saja bisa menjadi korban hanya karena memiliki foto yang diunggah ke internet.
Dan yang membuat situasi semakin rumit adalah aplikasi seperti ini sering dipasarkan layaknya aplikasi edit foto biasa, padahal dampaknya bisa sangat serius terhadap privasi dan keselamatan korban.
Terkait hal ini tentu, secara umum, langkah dari San Francisco ini bisa menjadi salah satu tindakan hukum terbesar terhadap distribusi aplikasi AI yang digunakan untuk membuat deepfake intim tanpa persetujuan.
Meski Apple dan Google mengaku telah mulai menghapus aplikasi-aplikasi tersebut, kasus ini juga menjadi pengingat bahwa platform distribusi aplikasi tidak hanya bertugas menyediakan tempat bagi developer, tetapi juga memiliki tanggung jawab untuk memastikan teknologi AI tidak disalahgunakan demi keuntungan finansial.
Nah bagaimana menurutmu guys? komen dibawah.
Via : Tech Crunch, TTP
Catatan Penulis : WinPoin sepenuhnya bergantung pada iklan untuk tetap hidup dan menyajikan konten teknologi berkualitas secara gratis — jadi jika kamu menikmati artikel dan panduan di situs ini, mohon whitelist halaman ini di AdBlock kamu sebagai bentuk dukungan agar kami bisa terus berkembang dan berbagi insight untuk pengguna Indonesia. Kamu juga bisa mendukung kami secara langsung melalui dukungan di Saweria. Terima kasih.
