“Masa depan AI sedang ditulis, dan kitalah yang menentukan kepada siapa teknologi ini akan mengabdi.” — Prof. Claudia Flores, Ketua Kelompok Kerja PBB Diskriminasi terhadap Perempuan dan Anak Perempuan
Oleh: Nursyahbani Katjasungkana*
PADA hari pertama kehadiran saya pada Sidang Komisi Tinggi HAM PBB ke 62 di Jenewa (HRC62), 24 Juni 2026, saya mengikuti Panel 1 dan 2 berupa diskusi tahunan yang dilanjutkan dengan Interactive Dialogue mengenai hak perempuan dan perempuan kanak-kanak. Di sela-sela kedua panel itu, saya juga menghadiri beberapa diskusi informal dan side event, antara lain konsultasi informal mengenai draf resolusi tentang perkawinan dini dan kawin paksa anak-anak.
Diantara ketiga diskusi tersebut, yang paling menarik perhatian saya adalah laporan tematik mengenai dampak Artificial Intelligence (AI/kecerdasan buatan), atau disebut juga sebagai akal imitasi, terhadap hak-hak perempuan dan perempuan kanak-kanak.
Mewakili INFID dan Vanita Naraya, saya duduk di bangku bagian masyarakat sipil ruang sidang utama Palais des Nations sambil membawa dua lembar intervensi. Yang pertama mengenai dampak perang terhadap perempuan dan anak-anak termasuk masalah ianfu yang sampai saat ini belum diselesaikan kompensasinya oleh pemerintah Jepang. Di dalamnya terkait juga dengan dampak penganggaran belanja negara yang semestinya dapat digunakan untuk memenuhi hak-hak perempuan dan anak-anak perempuan, justru terserap untuk persenjataan dan biaya perang.
Lembar kedua adalah intervensi mengenai dampak AI terhadap perempuan dan anak-anak perempuan dalam konteks Indonesia. Intervensi itu telah saya siapkan dan sehari sebelumnya telah diunggah di laman HRC62. Namun, ketika saya melihat daftar di website HRC62 itu, INFID memperoleh giliran ke-11 dari hanya 10 pembicara dengan waktu 1,5 menit yang dialokasikan, baik langsung maupun lewat video. Dengan waktu sidang yang sangat ketat, dan tidak satupun organisasi yang mengundurkan diri, intervensi tersebut akhirnya tidak sempat saya sampaikan.
Belajar dari diskusi panel dengan tema dampak AI terhadap perempuan dan perempuan kanan-kanak itu, saya semakin menyadari bahwa AI bukan sekadar persoalan teknologi digital. Ia juga merupakan persoalan hak asasi manusia. Perempuan dan perempuan kanak-kanan berada di garis depan dalam menghadapi berbagai resiko buruknya.
Laporan Women’s and Girls’ Rights and Artificial Intelligence and Related Technologies (A/HRC/62/48) yang disampaikan Prof. Claudia Flores, Ketua Kelompok Kerja PBB untuk Diskriminasi terhadap Perempuan dan Perempuan Kanak-kanak, merangkum kegelisahan yang juga saya rasakan mengenai realitas di Tanah Air.
Lompatan teknologi AI tidak hanya membawa peluang dan efisiensi, tetapi juga berpotensi memperluas dan memperdalam kerentanan perempuan dan anak perempuan terhadap kekerasan, diskriminasi dan eksploitasi di ruang digital.
Laporan tersebut memperingatkan bahwa perkembangan AI dan teknologi digital, apabila tidak disertai tata kelola yang memadai dan responsif gender, dapat memperparah diskriminasi dan ketimpangan gender yang telah ada, memperkuat stereotip yang merugikan, dan menciptakan bentuk-bentuk kekerasan dan pengucilan baru terhadap perempuan dan anak-anak perempuan.
Sebab, ketika kita berbicara tentang AI dan perempuan, persoalannya bukan semata-mata tentang seberapa cepat teknologi berkembang.
“Sistem AI memperdalam diskriminasi melalui bias algoritmik tertanam (embedded), pengawasan digital massal dan deepfake (rekayasa konten2 seksual tanpa persetujuan)”.
Prof.Flores juga mencatat bahwa kekerasan berbasis gender yang difasilitasi teknologi (TFGBV/ Technology Facilitated Gender Based Violence atau Kekerasan Berbasis Gender Online/KBGO).
Pertanyaan yang jauh lebih mendasar adalah: apa yang terjadi ketika teknologi baru itu masuk ke dalam masyarakat yang ketimpangan gendernya belum terselesaikan?
Membongkar Mitos Kenetralan Teknologi
Peringatan dari panggung global HRC62 tersebut di atas sekaligus mendekonstruksi mitos bahwa teknologi selalu netral.
Teknologi tidak lahir di ruang hampa. Ia dirancang oleh manusia, dilatih menggunakan data yang dihasilkan masyarakat, dan digunakan dalam struktur sosial yang sudah lebih dahulu memiliki ketimpangan sosial, ekonomi dan politik termasuk ketimpangan gender dan kelas. Karena itu, ketika masyarakatnya bias, teknologi yang dibangun dari data dan keputusan manusia juga dapat mereproduksi bias-bias tersebut.
Para ahli yang hadir di Jenewa terutama delegasi EU mengkonfirmasi kekhawatiran Prof.Flores, tentang pengawasan digital, menyoroti upaya legislatif untuk mewajibkan akuntabilitas algoritmik dan mengkriminalisasi kekerasan siber khususnya kekerasan berbasis gender online (KBGO) serta menyoroti potensi transformatif AI sekaligus perannya yang kian besar dalam melanggengkan diskriminasi.
Takeuchi Yasuaki dari Perwakilan Tetap Jepang di PBB, mengakui bahaya serius KBGO tetapi ia mendesak PBB untuk juga mempertimbangkan sisi lain: bagaimana AI yang dapat dipercaya dan inklusi digital dapat dimanfaatkan untuk mendukung agenda Perempuan, Perdamaian dan Keamanan (Women, Peace and Security) dengan membangun kapasitas kepemimpinan yang aman bagi perempuan di bidang teknologi.
Jika dirancang dan diadopsi tanpa mempertimbangkan risiko berbasis gender, AI dapat menjadi hambatan bagi partisipasi penuh perempuan dan perempuan kanak-kanak dalam kehidupan publik serta memunculkan risiko baru di ranah politik, sipil dan ekonomi.
Sistem Large Language Model (LLM), misalnya, belajar dari data dalam jumlah sangat besar yang merekam sejarah dan cara berpikir manusia. Data tersebut tidak bebas dari ketimpangan gender dan kelas. Ketika stereotip gender yang telah lama hidup dalam masyarakat masuk ke dalam data, sistem AI dapat mempelajari dan memproduksinya kembali.
Kekhawatiran ini juga terlihat dalam dunia kerja.
Laporan terbaru ILO bertajuk ”Gen AI, Occupational Segregation and Gender Equality in the World of Work” yang dirilis Maret 2026 menyebutkan, pekerjaan yang didominasi perempuan memiliki tingkat paparan AI Generatif (GenAI) hampir dua kali lebih tinggi dibandingkan dengan pekerjaan yang mayoritas diisi laki-laki.Ini menunjukkan bahwa perempuan pekerja secara tidak proporsional terpapar oleh perkembangan teknologi tersebut. Perempuan terlalu banyak terwakili dalam pekerjaan yang rentan terhadap otomatisasi, sementara mereka sejak lama kurang terwakili dalam bidang sains, teknologi, teknik dan matematika (STEM).
Pada saat yang sama, sistem AI sendiri dapat mencerminkan dan mereproduksi bias gender yang tertanam dalam masyarakat.
Di Indonesia, menurut laporan ILO yang mencakup 88 negara, tingkat paparan GenAI juga menunjukkan bahwa pekerja perempuan memiliki tingkat paparan yang lebih tinggi dibandingkan pekerja laki-laki. Data ini sangat penting karena perubahan teknologi bukan hanya persoalan apakah pekerjaan akan hilang, tetapi juga siapa yang paling terdampak ketika dunia kerja berubah.
Bias algoritma bahkan dapat mempengaruhi akses perempuan terhadap pekerjaan. Sistem rekrutmen otomatis, misalnya, belajar dari data historis mengenai siapa yang sebelumnya dianggap sebagai pekerja “berhasil”. Jika data tersebut didominasi laki-laki, algoritma dapat secara tidak sadar mereproduksi pola yang sama dan merugikan pelamar perempuan, termasuk mereka yang memiliki career gap karena melahirkan atau menjalankan tanggung jawab pengasuhan serta pekerjaan domestik lainnya.Dengan demikian, bias algoritma bukan lagi sekadar persoalan teknis. Ia dapat mempengaruhi hak perempuan atas pekerjaan, kesehatan, privasi, dan kesempatan yang setara.
AI dan Wajah Baru KBGO
Ketika AI masuk secara masif ke lanskap digital Indonesia, ia tidak hadir di ruang hampa yang damai. AI justru menginfiltrasi ruang siber yang sesungguhnya sudah lama tidak aman bagi banyak perempuan dan anak-anak perempuan.
Teknologi ini tidak menciptakan kekerasan dari ketiadaan. Ia justru dapat menyiram bensin ke atas api kerentanan yang telah lama mengakar. Realitas tersebut terekam dalam Catatan Tahunan Komnas Perempuan. Sepanjang 2025, berdasarkan data pengaduan, tercatat 1.091 kasus Kekerasan Berbasis Gender Online (KBGO), meningkat 11,54 persen dibandingkan tahun sebelumnya.
Sementara itu, dalam catatan tahunannya (2025) bahwa dalam tiga tahun terakhir, LBH APIK Jakarta mencatat total 3.110 pengaduan terkait KBGO dan KBGS (Kekerasan Berbasis Gender Seksual), dengan bentuk yang paling dominan berupa kekerasan seksual berbasis digital, ancaman penyebaran foto atau video intim, serta pelecehan lewat komentar seksis di media sosial.
Angka ini tentu tidak boleh dibaca sebagai keseluruhan kasus KBGO yang terjadi di Indonesia. Ia adalah kasus yang masuk melalui mekanisme pengaduan. Banyak korban mungkin tidak melapor karena stigma, ketakutan, keterbatasan akses, atau ketidakpercayaan bahwa sistem hukum mampu memberikan pemulihan.Penting pula digarisbawahi bahwa data tersebut tidak berarti AI merupakan penyebab tunggal KBGO. Kekerasan berbasis gender online telah berkembang jauh sebelum AI generatif menjadi sedemikian mudah diakses.
Namun, AI menghadirkan kemampuan baru yang sangat mengkhawatirkan. Foto perempuan dan anak perempuan yang diambil dari media sosial, bahkan foto biasa, dapat dimanipulasi menjadi konten seksual sintetis tanpa persetujuan korban. Konten tersebut dapat diproduksi, disebarkan dan direproduksi dalam skala yang jauh lebih besar.
Di sinilah teknologi dapat menjadi akselerator kekerasan.
Bahaya AI tidak selalu hadir dalam bentuk robot distopia seperti dalam film fiksi ilmiah. Di balik antarmuka yang tampak canggih dan bersih, sistem AI dapat menjadi gatekeeper tak terlihat yang memengaruhi peluang hidup manusia.Dan ketika teknologi manipulasi gambar digunakan untuk menyerang tubuh dan martabat perempuan, yang terlihat di layar mungkin hanya sejumlah piksel. Tetapi akibatnya terjadi dalam kehidupan nyata.Korban dapat kehilangan rasa aman, mengalami trauma, menghadapi perundungan, kehilangan kesempatan pendidikan dan pekerjaan, bahkan menarik diri dari ruang publik.
Karena itu, KBGO berbasis AI tidak boleh direduksi sebagai sekadar persoalan “kenyamanan” menggunakan internet. Yang dipertaruhkan adalah hak atas martabat, privasi, kesehatan mental, pendidikan, pekerjaan dan partisipasi yang bermakna dalam kehidupan publik.
Kerentanan yang Tidak Sama
Dampak kekerasan digital juga tidak dialami oleh semua perempuan dengan cara yang sama.
Perempuan dan perempuan kanak-kanak dari komunitas marjinal dan kelompok rentan menghadapi bentuk diskriminasi multi-interseksional (multiple and intersecting forms of discrimination). Gender berpotongan dengan usia, kemiskinan, lokasi geografis, keterbatasan akses teknologi, rendahnya literasi digital, dan terbatasnya akses terhadap perlindungan serta pemulihan hukum.
Seorang anak perempuan dari keluarga miskin di wilayah pedesaan, misalnya, dapat menghadapi risiko yang jauh lebih berat ketika menjadi korban manipulasi digital. Keterbatasan ekonomi dan literasi digital dapat membuatnya sulit memperoleh perlindungan, sementara jarak geografis dapat membatasi akses terhadap layanan hukum dan pemulihan.
Karena itu, ketika kita berbicara tentang perlindungan perempuan dan anak perempuan di era AI, kita tidak cukup hanya berbicara tentang teknologi. Kita harus berbicara tentang ketimpangan yang membuat sebagian orang jauh lebih rentan terhadap teknologi tersebut dibandingkan yang lain.
Ketika Hukum Tertinggal
Ironisnya, di tengah kepungan teror digital tersebut, penegakan hukum masih menghadapi tantangan dalam memahami bentuk-bentuk kekerasan yang baru.LBH APIK Jakarta juga mencatat, bahwa sebagian besar kasus yang ditangani menghadapi hambatan struktural. Dari ratusan kasus KBGO yang masuk, banyak yang belum memperoleh penanganan atau putusan pengadilan akibat lambatnya proses hukum.
Terdapat risiko ketidakadilan epistemik ketika pengalaman dan kesaksian korban tidak dipercaya atau diremehkan karena kekerasan yang dialaminya berlangsung melalui layar. Padahal, kekerasan digital dapat menghancurkan kehidupan nyata. Manipulasi gambar mungkin berupa piksel, tetapi rasa malu, trauma, kehilangan pekerjaan, putus sekolah atau kehancuran relasi sosial yang dialami korban bukanlah sesuatu yang virtual.
Indonesia sebenarnya telah memiliki sejumlah instrumen hukum penting, termasuk UU Tindak Pidana Kekerasan Seksual, UU Perlindungan Anak dan PP Nomor 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Perlindungan Anak serta UU Perlindungan Data Pribadi.Pemerintah juga telah memiliki pedoman etika AI melalui Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023, meski masih perlu ditingkatkan menjadi peraturan pemerintah atau UU agar daya implementasi lebih kuat.
Namun, persoalannya bukan hanya apakah kita memiliki normahukum. Pertanyaan pentingnya adalah: apakah norma tersebut benar-benar bekerja ketika korban datang mencari perlindungan? Tanpa penegakan hukum yang efektif, pengawasan terhadap penyelenggara sistem elektronik, mekanisme pengaduan yang responsif, dan akses terhadap pemulihan, regulasi yang progresif dapat berubah menjadi sekadar dokumen yang tidak cukup melindungi korban.
Kita juga perlu membedah rantai akuntabilitas. Ketika sebuah sistem AI digunakan untuk menghasilkan atau menyebarkan kekerasan, siapa yang bertanggung jawab? Negara yang gagal mengawasi? Perusahaan teknologi? Pengembang yang menciptakan sistem? Atau pengguna yang menyalahgunakannya?
Kecanggihan teknologi tidak boleh menjadi alasan untuk mengaburkan pertanggungjawaban. Karena itu, sebagaimana saya sampaikan dalam lembar intervensi INFID, negara dan perusahaan teknologi perlu mengadopsi kebijakan perlindungan hak asasi yang mengikat (binding human rights safeguards), menjamin transparansi dan akuntabilitas sistem AI, memperkuat perlindungan terhadap kekerasan berbasis gender yang difasilitasi teknologi, serta memastikan adanya akses terhadap pemulihan bagi korban. Dan yang tidak kalah penting: perempuan dan anak perempuan harus memiliki suara dalam tata kelola AI.
Dari Broken Staircase ke Tata Kelola AI
Menuntut akuntabilitas dari ekosistem teknologi pada akhirnya membawa saya kembali kepada persoalan struktural yang saya bahas dalam seri esai sebelumnya mengenai broken staircase, tangga yang patah atau rusak.
Hambatan sistemik sejak awal karier telah membatasi keterwakilan perempuan dalam mencapai posisi pengambilan keputusan tertinggi. Jika perempuan terus absen ketika teknologi AI dirancang, diatur dan diawasi, bagaimana kita dapat memastikan bahwa kebutuhan, perspektif dan pengalaman hidup perempuan dimasukkan ke dalam cetak biru teknologi tersebut?
Perempuan tidak boleh hanya menjadi objek statistik perlindungan setelah menjadi korban. Mereka harus hadir sebagai subjek yang ikut menentukan arah teknologi.Keterwakilan perempuan di semua tingkat pengambilan keputusan bukan sekadar persoalan representasi. Ia merupakan prasyarat agar teknologi dibangun berdasarkan pengalaman masyarakat yang beragam, bukan berdasarkan perspektif yang homogen.
Semua perdebatan di Jenewa membawa saya kepada pertanyaan lain: apakah Indonesia hanya akan menjadi pasar pengguna AI yang pasif, atau berani ikut menentukan bagaimana AI seharusnya digunakan?
Menjadi sekadar konsumen teknologi berarti kita membiarkan nilai, standar dan bahkan prasangka yang tertanam dalam teknologi tersebut menentukan kehidupan kita. Indonesia harus ikut menentukan arah transformasi ini. Inovasi teknologi harus berjalan bersama perlindungan HAM yang kokoh, regulasi yang responsif gender, literasi digital yang kritis, akses terhadap pemulihan, dan keterlibatan perempuan dalam tata kelola AI.
Prinsip perlindungan tersebut harus hadir sejak awal melalui safety-by-design, bukan baru dirumuskan setelah korban bermunculan.
Suara yang Tertahan di Jenewa
Merenungkan kembali dinamika di ruang sidang HRC62 membawa saya sampai pada sebuah momen yang sunyi ketika meninggalkan gedung PBB itu.Beberapa tahun lalu saya pernah datang ke gedung ini untuk berbagi pengalaman perjuangan APIK bersama kelompok perempuan bersuamikan warga negara asing dalam memperjuangkan UU Kewarganegaraan yang berkeadilan gender dan melindungi hak anak.
Sore itu, di halaman gedung PBB, saya berhenti di depan patung seorang perempuan bersayap dengan pohon buah yang merambat sampai batas kakinya. Patung La Paix—Perdamaian—yang menurut google adalah karya Marcel-Armand Gaumont itu merupakan simbol perdamaian, ketenteraman dan kesuburan. Sebuah simbol tentang harapan dunia kepada perempuan.
Namun hari itu saya justru membayangkan perempuan-perempuan yang kehidupannya sedang menghadapi ancaman baru dari teknologi yang seharusnya membawa kemajuan. Saya teringat kembali pada selembar kertas intervensi yang tidak sempat saya bacakan. Suara itu memang tertahan di ruang sidang Jenewa. Tetapi mungkin bukan berarti suara itu harus berhenti di sana. Ia justru harus dibawa pulang.
Sebab, sebagaimana saya tulis dalam lembar intervensi yang tak sempat saya sampaikan, di tengah lompatan teknologi yang begitu cepat, satu prinsip tidak boleh kita lupakan: The rights of women and girls must not be treated as an afterthought in the age of artificial intelligence. Hak-hak perempuan dan anak perempuan tidak boleh diperlakukan sebagai pemikiran belakangan di era kecerdasan buatan.
——-
*Penulis Nursyahbani Katjasungkana, Ketua Asosiasi LBH APIK Indonesia, aktivis gerakan perempuan Indonesia
Artikel ini merupakan tulisan ke sembilan dari serial Catatan dari Jenewa, sebuah refleksi yang ditulis oleh Nursyahbani Katjasungkana, mewakili INFID dan Vanita Naraya, dalam Sidang ke-62 Dewan Hak Asasi Manusia Perserikatan Bangsa-Bangsa (Human Rights Council/HRC) yang berlangsung di Jenewa, tanggal 15 Juni dan resmi ditutup pada 7 Juli 2026.
Selama tiga hari mengikuti sidang, pada tanggal 24 hingga 26 Juni 2024, penulis menghadiri berbagai sesi resmi dan side event mengenai hak-hak perempuan, reformasi hukum, HAM sebagai pencegahan anti-korupsi, dan hak asasi manusia.
Melalui serial ini, penulis mengajak pembaca untuk melihat bagaimana perdebatan global tersebut memiliki makna yang sangat relevan bagi Indonesia. Tulisan pertama berjudul “Dunia Sudah Sepakat Melindungi Perempuan, Tapi Mengapa Kekerasan Terhadap Perempuan Masih Terjadi?” . Tulisan kedua berjudul “Ketika Peradilan Tak Lagi Menjadi Benteng Terakhir Hak Asasi Manusia”. Dilanjutkan tulisan ketiga berjudul “Korupsi Tak Sekadar Mencuri Uang Negara, Tapi Kejahatan terhadap Kemanusiaan”. Dilanjutkan tulisan keempat berjudul “Masa Depan Kemanusiaan Dimulai dari Rumah: Inspirasi dari Eleanor Roosevelt”.
Kemudian tulisan ke lima berjudul Catatan dari Jenewa: Bhinneka Tunggal Ika, Memaknai Persatuan dalam Keberagaman.
Dilanjutkan tulisan ke enam berjudul “Catatan dari Jenewa: Perempuan Dalam Konflik Bersenjata: Ketika Tubuh Perempuan Menjadi Medan Perang”
Tulisan ke tujuh berjudul “Catatan dari Jenewa: Human Rights Economy, Martabat Manusia dan Kemiskinan Ekstrem”.
Dilanjutkan tulisan ke delapan berjudul “Martabat Demokrasi dan Tangga yang Patah: Catatan dari Jenewa: Perempuan, Representasi, dan Lembaga Pengambilan Keputusan”.
