KONTEKS.CO.ID – Pornografi digital terbahas di artikel ini. Keberadaan teknologi kecerdasan buatan (AI) memunculkan dampak yang mengkhawatirkan dalam ranah permesuman digital.
Menurut laporan dari Graphika yang dikutip oleh Time, Minggu 17 Desember 2023, sekitar 24 juta orang telah mengakses situs web yang mampu mengedit foto-foto perempuan menjadi “telanjang”.
Para peneliti menyatakan bahwa sebagian besar layanan tersebut memanfaatkan jejaring sosial untuk mempromosikan produknya.
Selain itu, jumlah iklan aplikasi yang menyediakan fitur AI untuk mengubah gambar menjadi telanjang telah meningkat secara drastis. Terutama di platform media sosial seperti X dan Reddit.
Pornografi Digital Jadi Ancaman Besar Privasi dan Etika
Aplikasi dan situs web ini menggunakan teknologi AI untuk menghasilkan gambar-gambar baru yang menampilkan orang dalam foto seolah-olah telanjang.
Namun, yang patut dikhawatirkan adalah bahwa kebanyakan dari layanan ini hanya berfokus pada objek foto perempuan.
Praktik ini telah menimbulkan keprihatinan serius terkait etika dan privasi, karena gambar-gambar tersebut seringkali diambil dari platform media sosial tanpa persetujuan atau pengetahuan dari subjek foto.
Hukum dan Tanggapan Platform
Penyebaran konten ini telah menghadapi tantangan hukum dan menjadi pelanggaran serius terhadap etika.
Google dan Reddit telah memberikan respons terkait larangan dan penghapusan iklan yang melanggar kebijakan. Namun masih ada kekhawatiran atas penggunaan teknologi AI untuk keperluan pornografi non-konsensual.
Menurut Eva Galperin dari Electronic Frontier Foundation, penyalahgunaan teknologi AI semakin meluas. Bahkan menyasar pada target yang mungkin tidak terduga seperti anak-anak sekolah.
Kasus Deepfake Pornografi Digital
Saat ini, belum ada payung hukum yang jelas untuk melarang pembuatan deepfake pornografi, bahkan di AS sekalipun.
Meski ada larangan penggunaan teknologi ini pada kalangan anak di bawah umur, banyak korban yang tidak menyadari bahwa foto mereka telah tersalahgunakan.
Kasus psikiater anak di North Carolina yang terhukum karena menggunakan aplikasi nudify pada pasiennya menunjukkan tingkat keparahan masalah ini.
Tindakan pencegahan telah platform lakukan. Seperti TikTok dan Meta Platforms dengan memblokir kata kunci yang terkait dengan layanan yang menyediakan aplikasi “undressing” atau nudify.
Ancaman yang Harus Ditanggulangi
Pornografi non-konsensual berbasis AI menjadi ancaman serius terhadap privasi dan etika.
Perlunya langkah-langkah hukum yang lebih tegas serta tindakan preventif dari platform-platform digital untuk menghindari penyebaran konten yang merugikan ini menjadi sebuah kebutuhan mendesak dalam ranah regulasi digital. ***
Simak breaking news dan berita pilihan Konteks langsung dari ponselmu. Konteks.co.id WhatsApp Channel
Baca berita pilihan konteks.co.id lainnya di:
"Google News"
