JAKARTA (RA) - Penyalahgunaan teknologi kecerdasan buatan (AI) Grok untuk membuat dan menyebarkan konten pornografi dengan menggunakan foto atau video orang nyata tanpa izin dinilai sebagai pelanggaran serius terhadap martabat manusia, hak privasi, dan pelindungan data pribadi.

Anggota Komisi I DPR RI, Amelia Anggraini, menegaskan praktik manipulasi wajah, foto, atau identitas visual seseorang ke dalam konten asusila tanpa persetujuan tidak dapat dipandang sebagai persoalan kesusilaan semata.

Menurutnya, tindakan tersebut telah masuk kategori kekerasan berbasis teknologi yang berpotensi menimbulkan dampak psikologis, sosial, hingga kerugian reputasional bagi korban.

"Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya," ujar Amelia, Jumat (9/1/2026) kemarin sebagaimana dilansir dari rmol.id.

Amelia menyebutkan, Kementerian Komunikasi dan Digital (Kemkomdigi) dalam penelusuran awal menemukan bahwa Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi pornografi berbasis foto orang nyata. 

Temuan tersebut, kata dia, harus menjadi perhatian serius pemerintah.

Ia meminta Kemkomdigi bersikap proaktif dan tidak menunggu hingga kasus serupa menjadi viral. Negara, menurutnya, wajib hadir melindungi warga di ruang digital melalui kebijakan yang tegas, terukur, dan dapat diawasi publik.

Dalam perspektif Undang-Undang Pelindungan Data Pribadi (UU PDP), Amelia menegaskan bahwa foto, wajah, dan video merupakan bagian dari data pribadi yang tidak boleh diproses secara sembarangan. 

Ia mendorong pemerintah untuk menagih kepatuhan platform digital dan penyedia layanan AI dengan standar yang jelas dan dapat diuji.

"Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah harus diperlakukan sebagai pelanggaran serius. Negara juga harus memastikan adanya respons cepat bagi korban, mulai dari kanal pelaporan yang efektif, mekanisme takedown cepat, hingga pencegahan unggah ulang," tegasnya.

Amelia juga mendorong penguatan standar kepatuhan bagi Penyelenggara Sistem Elektronik (PSE), termasuk platform X dan penyedia layanan AI.

Standar tersebut, kata dia, harus mencakup pencegahan sejak desain sistem (prevention by design) terhadap permintaan seksual berbasis orang nyata, serta sistem moderasi konten yang transparan dan dapat diaudit.

Terkait penegakan hukum, Amelia menekankan langkah administratif harus berjalan seiring dengan penerapan ketentuan pidana. 

Ia mengingatkan bahwa Kitab Undang-Undang Hukum Pidana (KUHP) baru telah berlaku sejak 2 Januari 2026, dengan ketentuan terkait pornografi yang diatur antara lain dalam Pasal 172 dan Pasal 407.

"Ini menegaskan bahwa ruang digital bukan ruang tanpa hukum," katanya.

Sebagai bagian dari fungsi pengawasan DPR, Amelia memastikan Komisi I DPR RI akan mengawal penanganan kasus penyalahgunaan AI agar menghasilkan perlindungan nyata bagi korban serta kepatuhan tegas dari platform digital.

"Jika platform AI lain bisa memasang pagar pengaman dan pembatasan yang jelas, maka tidak ada alasan Grok AI tidak melakukan hal yang sama," pungkasnya.