Jakarta,sorotkabar.com -- Perusahaan kecerdasan buatan xAl menghadapi gugatan class action setelah dituduh menghasilkan materi eksploitasi seksual anak melalui chatbot berbasis Al mereka, Grok.
Gugatan ini diajukan oleh tiga remaja di California, Amerika Serikat (AS), yang mengeklaim foto mereka digunakan tanpa izin untuk membuat gambar dan video eksplisit.
Dalam dokumen gugatan, ketiga korban yang diidentifikasi sebagai Jane Doe 1, Jane Doe 2, dan Jane Doe 3, menyatakan bahwa mereka mengalami dampak psikologis yang serius akibat insiden tersebut. Mereka menuduh bahwa teknologi Grok telah memanipulasi foto mereka menjadi konten seksual yang kemudian disebarluaskan di berbagai platform online.
Salah satu korban dilaporkan pertama kali mengetahui kejadian ini pada Desember lalu, ketika diberi tahu bahwa gambar dan video hasil Al dirinya beredar secara online. Konten tersebut menampilkan dirinya dan remaja lain dalam latar yang familier, tetapi telah diubah menjadi pose seksual eksplisit. Materi itu disebut disebarkan melalui platform seperti Discord dan Telegram, bahkan digunakan sebagai alat tukar untuk memperoleh konten eksploitasi anak lainnya.
Menurut gugatan tersebut, aparat penegak hukum yang menyelidiki kasus ini menyimpulkan bahwa materi tersebut dibuat menggunakan Grok milik xAl. Para penggugat mengaku materi tersebut telah menyebabkan mereka kehilangan privasi, martabat, dan rasa aman.
"xAI mendapat keuntungan finansial dari penggunaan Grok tetapi dengan mengorbankan kesejahteraan korban. Para korban harus menghabiskan sisa hidup mereka perasaan hancur karena gambar dan video seksual mereka mungkin terus diperdagangkan dan dijual secara online oleh predator seks anak," kata pengacara penggugat, dikutip dari Engadget, Rabu (18/3/2026).
Meski saat ini hanya mencantumkan tiga penggugat, namun diyakini masih ada ribuan anak di bawah umur lain yang fotonya dimanipulasi menjadi konten seksual oleh Grok. Gugatan tersebut juga mengeklaim xAl telah melanggar berbagai undang-undang yang melarang produksi dan distribusi materi pelecehan anak.
Hingga berita ini ditulis, xAl belum memberikan tanggapan mengenai gugatan tersebut. Perusahaan ini juga menghadapi beberapa investigasi di AS dan Eropa terkait dugaan pembuatan gambar telanjang tanpa persetujuan oleh Grok.
Para peneliti di Center for Countering Digital Hate memperkirakan pada bulan Januari bahwa Grok telah menghasilkan jutaan gambar yang berbau seksual, termasuk 23 ribu gambar yang tampaknya menampilkan anak-anak. CEO XAI Elon Musk, yang sebelumnya mempromosikan fitur "spicy mode" Grok, mengeklaim tidak mengetahui adanya gambar seksual anak di bawah umur yang dihasilkan oleh Grok. Pada Januari, xAl juga mengumumkan akan menghentikan kemampuan Grok untuk mengedit gambar seseorang menjadi berpakaian minim, dan membatasi fitur pembuatan gambar hanya untuk pelanggan berbayar.(*)
