JAKARTA — Kontroversi seputar penggunaan Grok AI di platform X belum menunjukkan tanda mereda. Pembatasan fitur pembuatan dan penyuntingan gambar yang diterapkan oleh pemilik X, Elon Musk, dinilai belum cukup untuk menghentikan penyalahgunaan kecerdasan buatan dalam pembuatan konten asusila. Isu ini kini berkembang menjadi perdebatan serius mengenai etika teknologi, perlindungan privasi, dan tanggung jawab hukum platform digital.
Sejak 9 Januari 2026 waktu Amerika Serikat, fitur pembuatan dan edit gambar Grok hanya dapat diakses oleh pelanggan X Premium. Pengguna X versi gratis yang mencoba memanggil Grok melalui unggahan dengan menyertakan tagar @Grok akan menerima pemberitahuan otomatis bahwa fitur tersebut dibatasi untuk pelanggan berbayar. Kebijakan ini diumumkan setelah meningkatnya laporan penggunaan Grok AI untuk menghasilkan konten pornografi dan gambar manipulatif berbasis foto asli.
Grok AI awalnya diperkenalkan sebagai chatbot cerdas dengan kemampuan analisis dan visual yang kuat. Namun, kemampuan menghasilkan gambar realistis justru memicu persoalan baru. Dalam sejumlah kasus, foto individu nyata dimanipulasi menjadi gambar asusila tanpa persetujuan. Konten semacam ini kemudian beredar luas di ruang digital, menimbulkan dampak serius bagi korban.
Bagi korban, manipulasi foto tidak hanya melanggar norma kesusilaan, tetapi juga merusak hak atas citra diri. Reputasi dapat runtuh dalam waktu singkat, sementara dampak psikologisnya dapat berlangsung lama. Di dunia digital, penghapusan konten tidak selalu menjamin masalah selesai, karena salinan dapat terus beredar di berbagai platform.
Meski telah dibatasi, kebijakan tersebut dinilai belum menyentuh akar masalah. Sejumlah pengguna melaporkan bahwa pembuatan gambar masih dapat dilakukan melalui tab Grok yang tersedia langsung di aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari platform X juga belum sepenuhnya menerapkan pembatasan serupa. Fakta ini memperkuat kritik bahwa langkah yang diambil bersifat parsial dan belum menyeluruh.
Pengamat teknologi menilai pembatasan berbasis langganan lebih bersifat administratif daripada teknis. Selama sistem AI di balik Grok masih mampu menghasilkan konten ilegal, potensi penyalahgunaan tetap terbuka. Pencegahan dinilai perlu dilakukan pada tingkat teknologi, seperti pembatasan jenis output, penyaringan perintah, serta sistem moderasi yang lebih ketat dan transparan.
Reaksi keras datang dari berbagai negara. Pemerintah Inggris menilai kebijakan tersebut tidak menyelesaikan masalah inti. Menurut pejabat setempat, memindahkan fitur bermasalah ke layanan berbayar tidak otomatis menghentikan pembuatan konten ilegal. Uni Eropa juga menyampaikan sikap serupa. Otoritas Eropa menegaskan bahwa konten asusila tidak dapat diterima dalam kondisi apa pun dan menekankan pentingnya akuntabilitas platform digital.
Di Amerika Serikat, isu Grok AI berkembang ke ranah politik. Sejumlah senator dilaporkan mengirimkan surat kepada Apple dan Google untuk meminta evaluasi terhadap keberadaan aplikasi X di toko aplikasi. Kekhawatiran utama berkaitan dengan kewajiban platform digital melindungi pengguna dari konten berbahaya serta kepatuhan terhadap standar distribusi aplikasi.
Di Indonesia, perhatian pemerintah terhadap isu ini juga meningkat. Kementerian Komunikasi dan Digital atau Komdigi menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Pemerintah menilai praktik manipulasi foto menjadi konten asusila berpotensi melanggar privasi dan hak atas citra diri warga negara.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli. Menurutnya, manipulasi digital terhadap foto pribadi merupakan bentuk perampasan kendali individu atas identitas visualnya.
Alexander menegaskan bahwa dampak pelanggaran hak citra diri tidak dapat dipandang ringan. Korban berpotensi mengalami tekanan psikologis, stigma sosial, hingga kerugian reputasi yang memengaruhi kehidupan pribadi dan profesional. Dalam konteks digital, dampak tersebut sering kali bersifat jangka panjang karena jejak konten sulit dihapus sepenuhnya.
Komdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memastikan tersedianya mekanisme perlindungan yang efektif. Pemerintah mendorong penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi. Seluruh PSE diingatkan bahwa tanggung jawab atas teknologi yang mereka sediakan melekat secara hukum.
Pemerintah juga menegaskan bahwa kepatuhan terhadap peraturan perundang-undangan Indonesia bersifat wajib. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat diterapkan. Opsi pemblokiran layanan Grok AI maupun platform X disebut terbuka apabila pelanggaran dinilai serius dan berulang.
Ancaman sanksi ini diperkuat dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana sejak 2 Januari 2026. Dalam KUHP baru, konten pornografi dan manipulasi citra pribadi tanpa hak diatur secara tegas, dengan ancaman pidana penjara dan denda. Ketentuan ini berlaku tidak hanya bagi individu, tetapi juga membuka ruang tanggung jawab bagi penyedia layanan digital.
Kasus Grok AI mencerminkan tantangan besar dalam pengelolaan kecerdasan buatan generatif. Di satu sisi, AI menawarkan inovasi dan efisiensi yang signifikan. Di sisi lain, tanpa pengawasan dan regulasi yang memadai, teknologi yang sama dapat berubah menjadi alat pelanggaran privasi dan martabat manusia.
Polemik yang terus berlanjut ini menunjukkan bahwa masa depan kecerdasan buatan tidak hanya ditentukan oleh kecanggihan teknologi, tetapi juga oleh kemampuan platform dan regulator untuk menyeimbangkan inovasi dengan etika, perlindungan hukum, serta penghormatan terhadap hak dasar masyarakat di ruang digital.