TIMES JAKARTA, JAKARTA – Suatu malam, saat jemari menjelajahi lautan digital yang dipenuhi gambar dan suara, saya menemui video mengejutkan. Seorang tokoh publik, berbicara lancar, namun matanya tidak memancarkan emosi. 

Gerakan bibirnya sedikit kaku, tidak sinkron dengan suaranya. Ada sesuatu yang tidak beres, sesuatu yang aneh. Inilah deepfake, sihir algoritma yang mencengangkan. Sihir yang menelan jati diri dan mengaburkan batas antara fakta dan fiksi.

Inilah cermin retak dari realitas digital saat ini. Di satu sisi, dunia begitu riuh dengan citra. Di sisi lain, kebenaran di baliknya seringkali samar. Kita mengenal Generative Adversarial Networks (GANs), teknologi ini dapat kita bayangkan sebagai dua jaringan saraf yang saling beradu. 

Salah seorang seniman amatir yang terus-menerus mencoba meniru karya asli (Generator), dan satunya lagi seorang kurator seni yang berusaha mendeteksi pemalsuan (Discriminator). Setiap kali kurator berhasil, sang seniman belajar untuk lebih baik. Begitu seterusnya, hingga terciptalah karya palsu yang nyaris sempurna. Karya yang bagi awam sulit dibedakan dengan aslinya. 

Aksesibilitas terhadap teknologi ini begitu mengkhawatirkan. Teknologi yang dulu hanya dimiliki segelintir ahli, kini tersedia di ujung jari kita. Pintu gerbang telah terbuka, mengundang siapa saja bebas menciptakan ilusi. Angka-angka pun berbisik, volume konten deepfake global telah meningkat drastis. 

Indonesia punya 212 juta pengguna internet (2025), lahan subur bagi penyebaran konten deepfake. Kita tidak hanya menghadapi dampak teknologi, tetapi juga masalah sosio-kultural. Inilah ironi digital kita. Penetrasi internet yang tinggi tidak diimbangi dengan literasi digital yang memadai.

Deepfake memiliki banyak wajah. Anggap saja penipu ulung, disinformasi politik, atau bahkan produsen trauma. Ada kisah seorang pemuda, JS (25), yang lihai memalsukan video Presiden Prabowo dan Menteri Keuangan Sri Mulyani. 

Ia menipu lebih dari seratus orang di duapuluh provinsi, memanfaatkan kepercayaan masyarakat pada tokoh-tokoh terkemuka. Modusnya sederhana, namun dampaknya merusak. Kita dapat bayangkan betapa buruknya sebuah video pendek menghancurkan reputasi dan menguras tabungan orang banyak.

Kemudian, ada jejak disinformasi politik selama Pemilu 2024. Sebuah video deepfake Prabowo berpidato dalam bahasa Arab, video ini berhasil mengelabui jutaan mata. Video palsu dapat mengganggu demokrasi. 

Di saat yang sama, ada sisi gelap dari deepfake: pornografi non-konsensual. Seorang selebriti yang dituduh terlibat dalam video syur yang kemudian terbukti palsu. 

Bukan videonya yang paling menyakitkan, melainkan trauma psikologis yang ditinggalkan. Wajar bila kita marah, jika menyadari betapa mudahnya teknologi ini menghancurkan hidup seseorang.

Lalu, bagaimana kita melawan ini? Kita sadari, Indonesia sedang menghadapi jalan yang terjal. Hukum kita, UU ITE dan KUHP, tidak secara eksplisit menyebutkan tentang "deepfake". 

Ini seperti medan pertempuran baru yang dilawan dengan senjata lama. Pemerintah pun menyadarinya. Kemkomdigi sedang menyiapkan peta jalan regulasi AI nasional. 

Wakil Menteri Nezar Patria secara terbuka meminta platform digital global untuk menyediakan alat deteksi deepfake gratis bagi pengguna. Kita perlu optimis, meskipun, ini balapan yang asimetris: teknologi bergerak cepat, sementara regulasi berjalan lambat.

Benteng yang Dibangun Bersama

Penelusuran ini menyadarkan kita bahwa solusi tidak bisa hanya datang dari pemerintah atau hukum. Setiap individu memiliki peran. Pertahanan pertama dan terpenting adalah literasi digital. 

Setiap orang memiliki "tali penyelamat" digital: kemampuan untuk bertanya, untuk berpikir kritis, dan untuk tidak mudah percaya. Kita harus bersedia bertanya, "Siapa yang membuatnya? Mengapa? Apa agendanya?"

Di lain hal, pertempuran teknologi terus berlanjut hingga kini. Pembuat deepfake terus berinovasi, para pakar pun sibuk kembangkan teknologi pendeteksi. Ini perlombaan teknologi yang tak pernah berhenti.

Kunci dari semua ini yakni kolaborasi pemerintah, industri, dan masyarakat. Semua pihak harus bergandengan tangan menangani deepfake. Platform digital harus turut bertanggung jawab. Begitu pula masyarakat, harus menjadi warga digital yang cerdas dan empatik.

Deepfake ibarat cermin. Deepfake menyadarkan kita ihwal betapa rapuhnya fondasi digital kita. Masyarakat terlalu cepat mengadopsi teknologi, namun terkadang tak bijak memakainya. 

Pertempuran melawan deepfake ini tentang menjaga integritas dan martabat semua pihak. Kita tidak bisa lari dari cermin yang retak ini. Kita harus menghadapinya bersama.

***

*) Oleh : Arief Rahzen, Pekerja Budaya yang Meminati Kajian Budaya dan Perubahan Masyarakat di Era Digital. 

*)Tulisan Opini ini sepenuhnya adalah tanggungjawab penulis, tidak menjadi bagian tanggungjawab redaksi timesindonesia.co.id

*) Kopi TIMES atau rubik opini di TIMES Indonesia terbuka untuk umum. Panjang naskah maksimal 4.000 karakter atau sekitar 600 kata. Sertakan riwayat hidup singkat beserta Foto diri dan nomor telepon yang bisa dihubungi.

*) Naskah dikirim ke alamat e-mail: [email protected]

*) Redaksi berhak tidak menayangkan opini yang dikirim.