Belakangan ini, perbincangan mengenai deepfake porn semakin ramai di media sosial karena munculnya konten-konten yang mengkhawatirkan dan sudah masuk dalam ranah cybercrime. Bagaimana tidak? Deepfake porn menggunakan bantuan kecerdasan buatan atau artificial intelligence (AI) untuk menciptakan konten pornografi palsu dengan menggantikan wajah seseorang dalam konten dengan wajah orang lain. Fenomena ini tentu saja melanggar hukum privasi karena mengambil foto orang lain tanpa izin dan menggunakannya untuk hal-hal yang tidak pantas. Lantas bagaimana deepfake porn bekerja dan dapat tersebar luas di media?
Mengutip dari user @itsindahg dalam akun Twitter miliknya, bahwa deepfake porn dibuat berdasarkan form request yang tersebar dalam channel Telegram. Form request tersebut berisi identitas korban (nama, username Instagram, asal sekolah/universitas) yang wajahnya akan digunakan dalam konten seksual. Di dalam channel tersebut juga tersebar banyak foto dan video pornografi yang dijual-belikan bahkan dibarter oleh sesama member grup. Entah apa yang mereka pikirkan saat menyebar ataupun menjual-belikan konten tersebut. Tidakkah tersirat rasa bersalah sedikitpun terhadap korban? Bagaimana bila orang terdekat atau bahkan diri mereka sendiri dijadikan bahan konten seksual yang belum tentu benar adanya?
Beberapa komentar dalam tweet tersebut juga mengungkapkan bahwa teman-teman atau kenalan mereka yang masih di bawah umur turut menjadi korban dalam deepfake porn. Hal ini merupakan perbuatan tercela dan tidak bermoral dari para oknum dan penikmat konten tersebut. Tindakan ini tidak hanya melanggar aturan privasi, tetapi juga menjadi bentuk pedofilia yang sangat tercela. Selain itu, disebutkan bahwa member dari channel tersebut sudah mencapai 25 ribu subscribers pada Juni lalu. Sangat miris tentunya melihat jumlah subscribers yang begitu banyak. Mengingat aktivitas yang mereka lakukan dalam grup itu terbilang sangat tabu serta melanggar hak-hak privasi.
Deepfake porn secara tidak langsung juga dapat memperluas skala terjadinya revenge porn. Dilansir dari pramborsfm.com, revenge porn adalah penyebaran konten pornografi tanpa persetujuan orang yang ada di dalam foto atau video sebagai wujud kecemburuan, balas dendam, maupun rasa tidak terima. Yang lebih parahnya lagi dari deepfake porn, orang-orang yang berada dalam konten mungkin tidak pernah terlibat dalam adegan maupun foto pornografi, namun wajah mereka dipergunakan untuk konten yang tidak pantas kemudian disebarluaskan di media sosial. Lantas, apakah para oknum menyadari bagaimana tindakan mereka dapat merusak reputasi digital serta menimbulkan trauma dan dampak psikologis mendalam bagi korban? Jika mereka menyadari konsekuensinya, tentu fenomena ini tidak akan terjadi bukan?
Oleh karena itu, diperlukan penanganan yang tepat dalam menghadapi deepfake porn di era digital. Peran pemerintah, platform media sosial, dan masyarakat sangatlah berarti untuk memberantas salah satu bentuk dari kejahatan siber ini. Mari bersama-sama membuat media sosial menjadi tempat yang aman bagi semua orang.
Penulis: Adinda Yulia Safitri