Kutub.co – Kemampuan kecerdasan buatan (AI) semestinya hadir untuk mempermudah kehidupan manusia. Namun, ketika dilepas tanpa pagar etika dan akuntabilitas, teknologi justru berpotensi memperdalam ketimpangan yang sudah ada. Fenomena digital undressing melalui Grok chatbot AI milik xAI yang terintegrasi di platform X menjadi contoh terang bagaimana inovasi yang gagal diawasi berubah menjadi instrumen kekerasan berbasis gender.
Dengan perintah sesederhana “put her in a bikini”, Grok mampu memanipulasi foto perempuan berpakaian lengkap termasuk yang mengenakan hijab menjadi setengah telanjang dalam hitungan detik. Sasaran praktik ini bukan hanya figur publik, tetapi juga perempuan biasa yang fotonya beredar di lini masa. Artinya, setiap perempuan yang memiliki jejak visual di ruang digital berpotensi menjadi korban.
Yang membuat situasi ini kian problematik, Grok tidak sekadar memproses permintaan tersebut, tetapi menaatinya. Laporan Reuters mencatat setidaknya 21 kasus di mana Grok menghasilkan gambar bikini yang sangat terbuka atau transparan. Dalam tujuh kasus lain, sistem bahkan menuruti permintaan untuk “Mengeksploitasi” subjek hingga hanya menyisakan pakaian dalam. Ini bukan kegagalan teknis sesaat, melainkan pola.
KBGO yang Difasilitasi Teknologi
Peneliti Gender dan Kebijakan Teknologi dari PurpleCode Collective, Alia Yofira Karunian, menegaskan bahwa praktik ini bukan sekadar penyalahgunaan teknologi, melainkan bentuk nyata Kekerasan Berbasis Gender Online (KBGO).
“Tren ini memenuhi karakteristik KBGO, adanya objektifikasi terhadap gender tertentu, ketimpangan relasi kuasa antara pelaku dan korban, serta penggunaan teknologi sebagai instrumen utama,” ujar Alia, dikutip dari Magdalene.
Manipulasi visual berbasis AI berdampak serius pada otonomi dan rasa aman korban. Tubuh perempuan diperlakukan sebagai objek pasif tanpa persetujuan, tanpa kendali, dan tanpa ruang untuk membela diri. Alia menilai fenomena ini mencerminkan rape culture pyramid yang bergerak dari tahap menengah menuju puncak.
“Manipulasi foto ini bisa terjadi karena perilaku seksis dan lelucon perkosaan di level bawah piramida sudah lama ditoleransi. Ketika itu dibiarkan, tindakan yang lebih ekstrem menjadi mungkin,” jelasnya.
Dalam konteks ini, platform X tidak lagi bisa diposisikan sebagai medium netral. Ia telah menjadi ekosistem yang membiarkan bahkan memfasilitasi budaya kekerasan tersebut.
Dari Ruang Gelap ke Platform Arus Utama
Teknologi AI yang mampu “Mengeksploitasi” perempuan secara digital sejatinya bukan hal baru. Aplikasi serupa telah lama beredar di situs gelap atau kanal Telegram tertutup. Perbedaannya, Grok membawa kemampuan tersebut ke platform arus utama yang dapat diakses publik secara luas, tanpa hambatan berarti.
Direktur Eksekutif The Midas Project, Tyler Johnston, menyebut risiko ini telah diperingatkan sejak awal.
“Pada Agustus, kami sudah memperingatkan bahwa kemampuan pembuatan gambar xAI pada dasarnya adalah alat penelanjangan digital yang menunggu untuk dipersenjatai. Dan itulah yang terjadi sekarang,” ujarnya kepada Reuters.
Banyak pengamat menilai kegagalan ini bukan akibat ketidaktahuan, melainkan kelalaian yang disadari. Terutama karena perusahaan tetap membuka akses publik terhadap hasil manipulasi visual tersebut, meskipun risikonya sudah diketahui.
Ancaman terhadap Anak dan Pelanggaran Hukum
Dampak Grok tidak berhenti pada perempuan dewasa. Melansir BBC, Internet Watch Foundation (IWF) menyatakan bahwa materi yang dihasilkan melalui alat ini dapat dikategorikan sebagai Child Sexual Abuse Material (CSAM) menurut hukum Inggris.
“Kami dapat mengonfirmasi bahwa analis kami menemukan gambar kriminal dari anak perempuan yang tampaknya dibuat menggunakan alat ini,” ujar Ngaire Alexander dari IWF.
Lebih lanjut, IWF mengungkapkan bahwa gambar-gambar tersebut kemudian dimodifikasi kembali menggunakan alat AI lain untuk menghasilkan materi yang lebih ekstrem. “Kami sangat khawatir dengan kemudahan dan kecepatan orang dapat menghasilkan pornografi anak secara fotorealistik,” tambahnya.
Mendesak Akuntabilitas, Bukan Sekadar Janji
Pemerintah Indonesia turut merespons fenomena ini. Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan bahwa Grok belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto.
“Setiap PSE wajib memastikan teknologinya tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” ujarnya, dikutip dari Antara, Jumat (9/1/2026).
Namun, janji penindakan konten ilegal dari pihak X dinilai belum menyentuh akar masalah. Tanpa perubahan sistemik, respons tersebut hanya bersifat reaktif. Langkah mendesak yang perlu dilakukan mencakup:
- Regulasi AI yang mengikat, khususnya terkait konten visual non-konsensual
- Pemblokiran kata kunci dan pola perintah berisiko di tingkat sistem
- Investasi serius pada tim keselamatan dan etika digital
- Serta edukasi publik mengenai hak atas citra diri dan risiko teknologi AI.
Kasus Grok menunjukkan bahwa penyalahgunaan AI bukanlah anomali, melainkan konsekuensi logis dari inovasi yang dilepas tanpa pengawasan etis. Ketika kecepatan dan keuntungan menjadi satu-satunya kompas, martabat manusia hampir selalu menjadi korban pertama.Ini bukan soal menolak inovasi.
Ini soal menentukan siapa yang dilindungi oleh inovasi tersebut dan siapa yang terus dikorbankan.
