JAKARTA – Aplikasi media sosial Meta bersiap memerangi peredaran konten mengandung unsur pornografi buatan kecerdasan buatan atau AI yang  beredar dalam layanan Facebook dan Instagram.

Dalam laporan yang dikutip dari Reuters, Selasa (16/4/2024), Meta dalam postingannya menyatakan baru baru ini ada dua gambar buatan AI yang eksplisit secara seksual dari selebriti perempuan yang beredar di layanan Facebook dan Instagram.

Dewan pengawas Meta menyatakan tindakan penghapusan gambar porno palsu tersebut untuk "mencegah lebih banyak kerusakan," kata juru bicara dewan.

Dewan pengawas Meta tidak menyediakan deskripsi tentang gambar-gambar tersebut namun tidak menyebutkan nama-nama wanita terkenal yang digambarkan dalam gambar-gambar.

Reuters dalam analisanya menyatakan, kemajuan dalam teknologi kecerdasan buatan telah membuat gambar-gambar, klip audio, dan video palsu hampir tidak dapat dibedakan dari konten yang dibuat oleh manusia. Hal ini kemudian menghasilkan banyaknya gambar palsu seksual yang berkembang di internet, sebagian besar menggambarkan wanita dan gadis.

Dalam kasus yang sangat terkenal sebelumnya tahun ini, platform media sosial milik Elon Musk, X, sementara waktu memblokir pengguna dari mencari semua gambar dari bintang pop AS, Taylor Swift setelah kesulitan mengendalikan penyebaran gambar palsu yang eksplisit tentangnya.

Beberapa eksekutif industri telah meminta legislasi untuk mengkriminalisasi pembuatan "deep fake" yang berbahaya dan menuntut agar perusahaan teknologi mencegah penggunaan semacam itu terhadap produk mereka.

Menurut deskripsi kasus-kasus dari Meta, salah satunya melibatkan gambar AI dari seorang wanita telanjang yang menyerupai figur publik dari India, diposting oleh sebuah akun di Instagram yang hanya membagikan gambar-gambar AI dari wanita India.

Gambar lainnya, demikian dewan menyatakan, muncul dalam sebuah grup Facebook untuk berbagi kreasi AI dan menampilkan gambar AI dari seorang wanita telanjang yang menyerupai "seorang figur publik Amerika" dengan seorang pria meraba payudaranya.

Meta sudah menghapus gambar yang menggambarkan wanita Amerika tersebut karena melanggar kebijakan pelecehan dan intimidasi mereka, yang melarang "photoshops atau gambar yang disexualisasi secara merendahkan," namun awalnya membiarkan gambar yang menampilkan wanita India dan baru mengubah keputusan setelah dewan memilihnya untuk ditinjau.

Dalam sebuah pos terpisah, Meta mengakui kasus-kasus tersebut dan berjanji untuk melaksanakan keputusan dewan. (*)