Viral Grok dari X, Ini 5 Cara Mencegah Foto Disalahgunakan AI

Penting untuk diketahui, ini beberapa cara yang bisa dilakukan untuk mencegah foto Mommies, anak di bawah umur, dan anak remaja disalahgunakan Grok.

Teknologi Artificial Intelligence (AI) atau kecerdasan buatan belakangan semakin berkembang dan banyak digunakan. Baik untuk keperluan pekerjaan maupun hiburan di media sosial. Tujuan terciptanya AI seharusnya mempermudah hidup kita. Namun, belakangan ini muncul kekhawatiran besar terkait fitur baru dari platform X (dahulu Twitter) bernama Grok. Alih-alih membantu, Grok justru terseret dalam kontroversi pelecehan digital yang meresahkan masyarakat global.

Apa Itu Grok?

Grok adalah asisten AI yang terintegrasi dalam platform X. Dikembangan oleh perusahaan Elon Musk bernama xAI, Grok didesain untuk memiliki kepribadian yang humoris. Sehingga terkesan menjadi “pemberontak” dibanding AI lain yang cenderung kaku dan sangat dibatasi..

Salah satu fitur paling kontroversialnya adalah Grok Imagine, sebuah alat pembuat gambar berbasis teks. Masalah muncul karena Grok memiliki filter keamanan yang sangat longgar, sehingga pengguna bisa dengan mudah memerintahkan AI ini untuk memanipulasi foto orang nyata menjadi konten yang tidak pantas. Hasilnya pun hanya dalam hitungan detik yang akan muncul di kolom reply.

Jika terus dibiarkan, fitur ini bisa semakin merugikan, khususnya bagi para perempuan yang fotonya bisa dicuri untuk diberi prompt yang tidak pantas.

BACA JUGA: 7 Negara yang Melarang Media Sosial untuk Anak-anak, Ada Malaysia hingga Australia

Masalah yang Muncul dari Grok

Penyalahgunaan Grok telah memicu gelombang Kekerasan Gender Berbasis Online (KGBO) atau pelecehan seksual digital. Masalah utamanya meliputi:

Deepfake Pornografi: Mengubah foto wajah seseorang, seringkali pada perempuan dewasa dan anak perempuan di bawah umur yang diberi prompt agar bisa menampilkan bagian tubuh atau konten seksual tanpa persetujuan pemilik foto.
Nudifikasi Otomatis: Perintah digital untuk “melepas pakaian” pada foto asli.
Penyebaran Konten tanpa Izin: Karena terintegrasi dengan X, gambar-gambar hasil rekayasa ini bisa tersebar secara luas dan viral dalam hitungan detik. Kondisi ini bisa merusak reputasi dan mental korban.

Foto: LatestLY

Reaksi Pemerintah Indonesia

Pemerintah Indonesia mengambil langkah sangat tegas. Melalui Kementerian Komunikasi dan Digital (Kemkomdigi), Indonesia resmi memutus akses sementara (blokir) terhadap Grok pada 10 Januari 2026 lalu.

Menteri Komunikasi dan Digital, Meutya Hafid, melalui laman Komdigi menyampaikan, “Pemerintah memandang praktik deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat serta keamanan warga negara di ruang digital.”

Aturan tersebut dibuat untuk melindungi para perempuan dan anak di Indonesia agar terhindar dari konten pornografi manipulasi dan palsu yang dihasilkan dari AI Grok.

Daftar Negara yang Mengambil Tindakan terhadap Grok

Hingga saat ini, beberapa negara telah melakukan pemblokiran atau penyelidikan ketat:

Indonesia: Negara pertama yang memblokir akses Grok secara sementara. Pemerintah Indonesia juga meminta X untuk memberikan klarifikasi mengenai dampak negatif Grok.
Malaysia: Menyusul Indonesia memblokir Grok karena penyalahgunaan AI untuk membuat konten asusila.
Inggris: Menteri Teknologi Liz Kendall mengatakan pemerintah sedang mempertimbangkan untuk melarang akses X ke Inggris (9/1/2026).
Uni Eropa: Meluncurkan investigasi resmi terkait pelanggaran privasi dan penyalahgunaan Grok.
India: Sama seperti Uni Eropa, India juga meluncurkan investigasi resmi terkait pelanggaran privasi dan penyalahgunaan Grok.

Hukuman bagi Pelaku Penyalahgunaan Grok di Indonesia

Jangan menganggap remeh penggunaan AI untuk mengedit gambar orang lain secara asusila. Di Indonesia, pelakunya bisa dijerat dengan berbagai pasal berlapis:

UU ITE Nomor 1 Tahun 2024: Menyebarkan konten yang melanggar kesusilaan dapat diancam pidana penjara dan denda miliaran rupiah.
UU TPKS Nomor 22 Tahun 2022 (Tindak Pidana Kekerasan Seksual): Mengambil, merekam, atau menyebarkan konten seksual non-konsensual adalah tindak pidana serius.
KUHP Baru (Pasal 407): Mengatur ancaman pidana penjara hingga 10 tahun bagi pembuat atau penyebar konten pornografi.

Foto: Matilda Wormwood/Pexels

Panduan untuk Mommies, Remaja, dan Perempuan Terhindar dari Penyalahgunaan Foto dengan AI

Agar Mommies, anak perempuan, dan remaja perempuan bisa meminimalisir terkena penyalahgunaan foto dengan AI, ini beberapa hal yang bisa dilakukan:

1. Privasi Foto adalah Kunci

Hindari mengunggah foto wajah dengan kualitas tinggi (HD) dan posisi close-up di profil yang bersifat publik. Ini akan menyulitkan AI untuk memproses deepfake.

2. Aktifkan Fitur Private

Pastikan akun media sosial (terutama Instagram dan X) disetel ke mode private agar hanya orang yang dikenal yang bisa melihat koleksi foto.

3. Gunakan Watermark

Jika harus mengunggah foto, gunakan watermark tipis di area wajah untuk mengganggu algoritma AI dalam melakukan pemindaian.

4. Segera Lapor Jika Mommies atau Keluarga Menjadi Korban

Jangan diam! Ambil tangkapan layar atau screenshot sebagai bukti. Kemudian laporkan ke platform dengan fitur Report. Mommies juga bisa laporkan ke Komdigi – Layanan Aduan Konten.

5. Edukasi Remaja

Mommies dan suami perlu memberi tahu anak remaja bahwa tren “mengedit foto teman” menggunakan AI apalagi untuk konten pornografi bukanlah lelucon, melainkan tindak kriminal yang bisa menghancurkan masa depan si anak dan temannya.

BACA JUGA: Pause Before Post, Hindari Drama dan Penyesalan Online di Media Sosial

Cover: Times of India