Dewan Pengawas Meta baru-baru ini meminta perusahaan media sosial tersebut untuk lebih memperkuat perlindungan terhadap masyarakat dari ancaman serius berupa konten deepfake seksual. Dalam rekomendasinya, mereka menekankan pentingnya untuk mengklasifikasikan konten manipulasi berbasis kecerdasan buatan (AI) sebagai pelanggaran tanpa perlu adanya konsensus yang rumit dalam kebijakan yang ada.
Rekomendasi ini muncul setelah dewan melakukan investigasi menyeluruh terhadap sebuah insiden di platform Instagram. Insiden tersebut melibatkan sebuah video yang menyebarkan konten pelecehan yang dihasilkan oleh AI, meskipun terdapat laporan dari beberapa pengguna mengenai masalah ini.
Meta, yang memiliki kebijakan yang cukup ketat terkait pelanggaran konten, tampaknya mengabaikan laporan yang datang dari seorang individu yang merasa dirugikan. Meskipun korban video deepfake tersebut sudah menutup akunnya, perusahaan tetap tidak mengambil tindakan yang diperlukan.
Pandangan Dewan Pengawas Mengenai Kebijakan Meta Saat Ini
Dewan Pengawas menilai bahwa kebijakan Meta dalam menangani pelaporan konten-konten sensitif masih sangat minim dan tidak adil. Contohnya, saat ini, Meta hanya mengakui laporan yang datang dari korban langsung atau pihak ketiga yang sudah terdaftar sebagai mitra terpercaya.
Hal ini tentu akan menyulitkan banyak individu yang bukan figur publik untuk mendapatkan keadilan. Berbeda dengan selebriti atau figur masyarakat, warga biasa umumnya tidak mempunyai akses atau kemampuan untuk melibatkan media atau kepolisian dalam melaporkan pelanggaran.
Metode yang digunakan untuk menanggapi laporan ini, berdasarkan pandangan dewan, sangat mengekang dan menyakiti hak-hak individu. Mereka berupaya mendorong perusahaan untuk mempercepat proses verifikasi dan penanganan laporan terkait ancaman yang lebih mengkhawatirkan ini.
Dampak Konten Deepfake Terhadap Korban
Konten deepfake seksual memiliki dampak yang merugikan dan dapat merusak reputasi serta kehidupan pribadi kaum korban. Seringkali, materi ini digunakan untuk menyerang atau menghancurkan nama baik seseorang tanpa adanya dasar yang jelas dan menyakitkan.
Penggunaan konten semacam ini juga dapat memicu masalah psikologis bagi korban yang menghadapi pelecehan secara digital. Rasa malu dan ketidakberdayaan dapat mengarah pada dampak emosional yang dalam, membuat banyak individu merasa terjebak dalam situasi yang tidak mereka pilih.
Bahkan, banyak kasus di mana korban mengalami isolasi sosial akibat penyebaran konten tersebut. Untuk melindungi mereka, langkah-langkah preventif perlu diambil secara proaktif tanpa menunggu laporan dari korban.
Pentingnya Pendidikan dan Kesadaran Sosial Mengenai Deepfake
Pendidikan masyarakat mengenai apa itu deepfake dan dampak negatifnya sangat penting. Dengan meningkatkan kesadaran, diharapkan individu dapat lebih berhati-hati dalam menyebarkan informasi dan memahami konsekuensi dari tindakan tersebut.
Pendidikan mengenai etika penggunaan media digital juga sangat diperlukan untuk menghindari pelecehan di dunia maya. Banyak orang masih belum sepenuhnya menyadari bahwa konten yang tampaknya tidak berbahaya dapat memiliki konsekuensi yang luas bagi orang lain.
Organisasi dan komunitas perlu berkolaborasi untuk menghadirkan program pendidikan yang berdampak. Program semacam itu bisa mencakup lokakarya, seminar, dan materi pembelajaran yang menyentuh aspek moral serta hak-hak individu.
Langkah Yang Dapat Diambil Oleh Meta dan Platform Lainnya
Meta, sebagai salah satu pemain utama di jagat media sosial, perlu mengambil langkah konkrit untuk memperbaiki kebijakan terkait konten berbahaya. Mengembangkan algoritma yang lebih canggih untuk mendeteksi serta menghapus konten deepfake secepat mungkin adalah salah satu solusinya.
Perusahaan juga perlu melibatkan pakar hukum dan psikologi untuk memahami lebih dalam dampak dari konten tersebut. Dengan melibatkan berbagai pihak, mereka dapat meningkatkan kualitas keputusan yang diambil dalam menghadapi pelaporan pelanggaran.
Selain itu, transparansi dalam proses laporan sangat penting untuk membangun kepercayaan masyarakat. Meta perlu menjelaskan kepada pengguna bagaimana laporan ditangani dan memberikan umpan balik yang jelas kepada pelapor.
