Belakangan ini, kecerdasan buatan Grok Al tengah ramai diperbincangkan pengguna media sosial. Namun sayangnya teknologi Grok Al ini malah disalahgunakan sejumah oknum untuk membuat gambar-gambar seksual non-konsensual terhadap perempuan dan anak perempuan.
Salah satu yang menjadi korban adalah anggota JKT48. Sejumlah akun terlihat memanfaatkan Al tersebut untuk mengubah penampilan anggota JKT48 menjadi senonoh bahkan mengandung unsur ponografi yang dinilai sebagai bentuk pelecehan dan pelanggaran privasi.
Lantas apakah itu Grok Al? Melansir laman BBC UK, Kamis 8 Januari 2026, Grok adalah asisten Al gratis dengan sejumlah fitur premium berbayar yang merespons permintaan pengguna X ketika mereka menandainya dalam sebuah unggahan. Selama ini, Grok kerap digunakan untuk memberi reaksi atau menambahkan konteks atas komentar pengguna lain.
Menteri Teknologi Inggris, Liz Kendall, mendesak platform X milik Elon Musk untuk segera menangani penyalahgunaan chatbot kecerdasan buatan mereka, Grok, yang digunakan untuk membuat gambar bernuansa seksual terhadap perempuan dan anak perempuan tanpa persetujuan.
Kendall menyebut situasi ini sebagai sesuatu yang benar-benar memprihatinkan dan menegaskan, pemerintah tidak bisa dan tidak akan membiarkan penyebaran gambar-gambar yang merendahkan martabat seperti ini.
Sementara itu, pihak X dalam keterangan resminya menyebut bahwa pihaknya telah mengambil tindakan terhadap konten ilegal di X, termasuk materi eksploitasi seksual anak (Child Sexual Abuse Material/CSAM), dengan menghapus konten tersebut, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah daerah dan aparat penegak hukum bila diperlukan.
“Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung,” demikian keterangan resmi mereka.
