JAKARTA – Wakil Menteri Kemkomdigi Nezar Patria mengungkapkan bahwa penyalahgunaan teknologi seperti Deepfake dan AI semakin canggih dan manipulatif. Nezar mengatakan, konten tersebut manipulatif dan juga menyasar kelompok rentan seperti perempuan dan anak-anak.
“Konten manipulatif visual dan audio tidak hanya menyesatkan, tapi juga menyasar kelompok rentan seperti perempuan dan anak,” kata Nezar dalam keterangan resmi, Sabtu (26/7/2025).
Ia mengutip laporan Sensity AI yang menunjukkan lonjakan 550 persen kasus deepfake sejak 2019 dan menyebutkan bahwa 90 persen di antaranya digunakan untuk tujuan berbahaya.
“Yang paling terdampak adalah perempuan dan anak. Setidaknya 11 persen perempuan usia 15 sampai 29 tahun pernah mengalami kekerasan berbasis gender online sejak usia belia,” ujar Nezar.
Dia mengatakan, gelombang perkembangan teknologi membuka peluang luar biasa, tapi juga membuka celah ancaman yang bisa melemahkan kepercayaan antarmasyarakat.
Untuk itu, Kemkomdigi berkomitmen menciptakan ruang digital yang aman bagi semua dengan melakukan edukasi literasi digital.
“Tidak hanya itu, kami juga melakukan takedown terhadap konten negatif, dan bekerja sama dengan aparat hukum untuk menindak kejahatan digital,” kata Nezar.
Nezar menekankan arti penting literasi digital sebagai keterampilan dasar, termasuk kemampuan kritis dalam memilah informasi dan menjaga privasi data.
“AI seharusnya menjadi teman untuk berimajinasi dan berinovasi, bukan untuk membahayakan atau merugikan orang lain,” kata dia.
Tidak Bisa Menahan Laju AI
Kepada Bergelora.com di Jakarta dilaporkan sebelumnya, Nezar Patria menyatakan, manusia mungkin tidak bisa menahan laju teknologi kecerdasan buatan atau artificial intelligence sehingga manusia butuh menjaga kemampuan berpikir kritis (critical thinking). Hal ini disampaikan Nezar dalam acara bedah buku Neksus: Riwayat Jejaring Informasi, dari Zaman Batu ke Akal Imitasi karya Yuval Noah Harari, yang digelar di Kantor Kementerian Komunikasi dan Digital, Senin (21/7/2025).
“Yang paling penting adalah tetap menjaga critical thinking, termasuk bagaimana kita berhubungan dengan artificial intelligence,” kata Nezar, Senin sore.
“Kita mungkin tidak bisa menahan laju teknologi ini, karena dia sudah berkembang, saraf-saraf AI untuk terus tumbuh juga sudah ada,” imbuh dia.
Menurut Nezar, jika tidak diimbangi dengan pemahaman kritis, teknologi AI justru dapat membentuk narasi, memunculkan tokoh-tokoh fiktif, dan mengarahkan opini publik secara manipulatif.
“Tiba-tiba bisa muncul tokoh yang tidak jelas asal-usulnya, tapi jadi populer karena algoritma. Nah, di sini pentingnya critical thinking, agar kita tidak terjebak dan tetap bisa mengambil jarak,” kata dia.
Ia pun menekankan bahwa teknologi ini tetap memiliki potensi besar untuk manfaat sosial dan ekonomi, asalkan digunakan dengan bijak.
“Kita harus tahu bahwa ini semua yang bikin manusia, dan kita harus cukup kritis dan tidak terserap masuk, tapi mengambil jarak,” kata Nezar.
“Menggunakannya (AI) secara tepat yang penting, memaksimalkan manfaatnya, kemudian memperkecil risiko-risikonya,” ujar dia.
Nezar menjelaskan, kemajuan AI saat ini sangat ditopang oleh dua faktor utama, yaitu ketersediaan big data dan konektivitas digital global. Kedua hal tersebut tidak dimiliki dunia pada dekade 1980-an dan 1990-an, sedangkan sekarang mayoritas permukaan bumi terhubung dengan data ang membuat AI bisa tumbuh.
Ia menuturkan, AI modern bekerja dengan cara mengolah data melalui algoritma, yang awalnya dikembangkan untuk keperluan pemasaran di media sosial, namun kini telah berkembang meluas ke ranah politik dan sosial.
“Awalnya kan kalau di media sosial, kebutuhannya buat marketing. Jadi, enggak ada niat yang lain-lain kecuali mengumpulkan data-data kita, profiling kita semua gitu ya,” kata dia.
“Dia bisa dijual sebagai audiens untuk iklan, lama-lama karena dia sudah canggih sekali algoritmanya, dia bisa micro-targeting, apa yang kita suka, apa yang kita tidak suka,” kta Nezar. (Calvin G. Eben- Haezer)