Platform X Milik Musk Diselidiki Usai Chatbot Diduga Menghasilkan Konten Pornografi

PARIS, 2 Januari (Xinhua) — Kejaksaan Paris pada Kamis (2/1) mengonfirmasi kepada media bahwa pihaknya akan memulai penyelidikan terhadap “Grok”, chatbot buatan perusahaan kecerdasan buatan xAI milik pengusaha Amerika Serikat Elon Musk, terkait dugaan pembuatan konten pornografi ilegal.

“Grok” dikembangkan oleh xAI dan terintegrasi langsung ke dalam platform media sosial X yang juga dimiliki Musk, sehingga dapat diakses dan digunakan oleh pengguna X. Belakangan ini, muncul laporan bahwa sebagian pengguna memanfaatkan Grok untuk mengedit gambar dan video, dengan sejumlah hasil generatif yang tampak sangat realistis hingga sulit dibedakan dari konten asli.

Sejumlah pihak diduga menyalahgunakan kemampuan tersebut untuk membuat konten eksplisit palsu yang menampilkan orang-orang nyata, lalu menyebarkannya di platform X. Korban yang disebut-sebut terdampak mencakup ratusan perempuan serta anak di bawah umur.

Pada 2 Januari, beberapa menteri pemerintah Prancis dan anggota Majelis Nasional melaporkan fenomena tersebut kepada otoritas peradilan. Pada malam harinya, Kejaksaan Paris menyatakan akan membuka penyelidikan terkait.

Media Prancis juga melaporkan bahwa sejak Juli tahun lalu, Kejaksaan Paris telah menyelidiki platform X atas dugaan keterlibatan melalui pengendalian algoritma yang dapat memfasilitasi campur tangan asing. Penyelidikan terhadap “Grok” disebut sebagai perluasan dari investigasi yang sudah berjalan tersebut.