Grok digunakan untuk menghasilkan gambar rekayasa digital (deepfake) intim dari perempuan dan anak-anak, yang sering diunggah di platform media sosial seperti X untuk melecehkan korban.

Los Angeles, Amerika Serikat (Xinhua/Indonesia Window) – Jaksa Agung California Rob Bonta pada Rabu (14/1) mengumumkan penyelidikan terhadap xAI, perusahaan di balik model kecerdasan buatan (artificial intelligence/AI) Grok, terkait pembuatan dan penyebaran konten seksual eksplisit tanpa persetujuan.

Kantor Bonta mengungkap bahwa Grok telah digunakan untuk menghasilkan gambar rekayasa digital (deepfake) intim dari perempuan dan anak-anak, yang sering diunggah di platform media sosial seperti X untuk melecehkan korban.

Menurut sebuah pernyataan dari kantor Bonta, sejumlah laporan dalam beberapa pekan terakhir menyoroti bagaimana pengguna Grok mengambil gambar daring biasa dari wanita dan anak-anak, lalu memanipulasinya menjadi skenario yang sugestif dan eksplisit secara seksual tanpa persetujuan. Fitur "spicy mode" dari xAI, yang memungkinkan pembuatan konten eksplisit, dipromosikan sebagai fitur pemasaran, yang berkontribusi pada penyebaran gambar tanpa persetujuan.

"Saya mendesak xAI untuk mengambil tindakan segera guna memastikan hal ini tidak berlanjut," kata Bonta dalam pernyataannya. "Kami tidak memberikan toleransi terhadap pembuatan dan penyebaran gambar intim tanpa persetujuan atau materi pelecehan seksual anak yang didasarkan pada AI."

Bonta mengatakan kantornya telah secara resmi membuka penyelidikan untuk menentukan apakah, dan dengan cara apa, xAI mungkin telah melanggar hukum.

Bonta juga mengutarakan kekhawatiran yang terus berlanjut mengenai risiko yang ditimbulkan oleh teknologi AI, terutama dalam melindungi anak-anak, dan menegaskan kembali komitmennya guna memastikan keamanan AI. Penyelidikan ini dilakukan setelah pada Agustus 2025 lalu dia mengirim surat kepada 12 perusahaan AI besar, mendesak mereka memperkuat langkah-langkah perlindungan terhadap konten tidak pantas yang melibatkan anak di bawah umur.

Laporan: Redaksi