Dalam beberapa hari terakhir, platform kecerdasan buatan Grok milik xAI kembali menjadi sorotan setelah dilaporkan menghasilkan konten deepfake seksual yang melibatkan perempuan dan anak di bawah umur.
Seperti yang diketahui, Grok yang terintegrasi dengan media sosial X (Twitter) baru saja menambahkan fitur edit gambar. Fitur ini memungkinkan pengguna memodifikasi gambar milik orang lain secara otomatis dengan prompt di kolom balasan sebuah pos, atau melalui tombol “Edit Gambar” di foto dalam pos.
Sayangnya, fitur ini justru menimbulkan masalah baru. Beberapa pengguna justru dengan terang-terangan menyalahgunakan fitur ini. Foto-foto yang diunggah oleh pengguna lain malah diedit secara seksual dan non‑konsensual dengan “bantuan” Grok. Menurut beberapa laporan, korbannya justru rata-rata merupakan perempuan dan anak di bawah umur.
Penyalahgunaan Fitur Grok Jadi Perhatian Pemerintah Dunia
Insiden ini memicu kecaman keras dari berbagai negara, mulai dari India, Prancis dan Malaysia, yang kini secara resmi membuka penyelidikan terhadap penggunaan Grok dalam pembuatan gambar-gambar manipulatif yang dianggap melanggar hukum.
India menjadi negara pertama yang mengambil tindakan tegas dengan memerintahkan X untuk membatasi kemampuan Grok dalam menghasilkan konten pornografis, vulgar, atau melanggar hukum. Pemerintah India memberikan batas waktu 72 jam kepada X untuk menindaklanjuti perintah tersebut, dengan ancaman pencabutan perlindungan “safe harbor” jika tidak dipatuhi.
Mengutip dari TechCrunch, pemerintah Prancis melalui kantor Kejaksaan Paris menyatakan bahwa kasus deepfake seksual yang melibatkan Grok telah masuk dalam penyelidikan resmi. Pelaku penyebaran konten ilegal tersebut dapat dijerat hukuman hingga dua tahun penjara dan denda €60.000. Tiga menteri Prancis bahkan telah melaporkan konten tersebut ke platform pengawasan daring pemerintah untuk meminta penghapusan segera.
Sedangkan itu, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyebut bahwa mereka menerima banyak laporan publik terkait penyalahgunaan alat AI di platform X. Lembaga negeri jiran tersebut menegaskan bahwa mereka sedang menyelidiki konten manipulatif yang dianggap tidak senonoh, ofensif, dan berbahaya bagi masyarakat.
Elon Musk Beri Peringatan
Elon Musk sebagai pemilik platform X dan xAI menyatakan bahwa pengguna yang memanfaatkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti jika mereka mengunggah konten tersebut secara langsung. Hal ini Musk sampaikan dalam sebuah balasan dengan akun X miliknya.
Namun, hingga kini publik masih mempertanyakan efektivitas pengamanan yang diterapkan xAI, mengingat sejumlah kasus tetap lolos dari filter sistem. Tak hanya itu, banyak pengguna, terutama dari kalangan seniman yang merasa fitur ini mengancam kelangsungan aktivitas pembuatan karya mereka.
