finnews.id – Badan pengawas media Inggris, Ofcom, resmi membuka penyelidikan terhadap platform media sosial X menyusul laporan penyalahgunaan chatbot kecerdasan buatan Grok. Chatbot tersebut diduga digunakan untuk membuat dan menyebarkan konten pornografi serta pelecehan seksual terhadap anak.
Apa yang Diselidiki oleh Ofcom?
Penyelidikan ini dipicu oleh adanya dugaan bahwa Grok, alat AI yang terintegrasi dalam platform X, telah digunakan untuk menghasilkan gambar sexualisasi dan deepfake yang memuat:
- Gambar tidak senonoh tanpa persetujuan individu, termasuk wanita dewasa.
- Konten berpotensi termasuk child sexual abuse material (CSAM), yaitu gambar anak yang diseksualisasi secara tidak sah.
Ofcom menilai terdapat potensi pelanggaran terhadap Online Safety Act (OSA) Inggris – undang-undang yang menuntut platform online mengambil langkah tegas untuk mencegah penyebaran konten ilegal dan berbahaya.
Proses Penyelidikan dan Fokusnya
Menurut pernyataan resmi, penyelidikan ini akan memeriksa apakah X gagal:
- Melakukan penilaian risiko yang memadai sebelum mengubah layanannya, terutama terkait fitur Grok.
- Mencegah konten ilegal seperti gambar intim tanpa izin tersebar di platform.
- Menghapus konten terlarang secara cepat dan efektif setelah dilaporkan.
- Melindungi anak dan privasi pengguna, termasuk langkah verifikasi usia agar anak tidak terpapar konten pornografi
Dalam penyelidikan tersebut, Ofcom akan mengecek sejumlah hal krusial. Mulai dari apakah X sudah mengambil langkah yang tepat untuk mencegah pengguna di Inggris mengakses konten ilegal, seperti materi pelecehan seksual anak dan gambar intim tanpa persetujuan. Regulator juga menilai seberapa cepat platform itu menghapus konten ilegal setelah mengetahuinya, serta apakah X melakukan penilaian risiko terbaru sebelum melakukan perubahan besar pada platformnya.
Tak hanya itu, Ofcom turut menyelidiki apakah X telah menilai risiko yang ditimbulkan platformnya terhadap anak-anak di Inggris. Termasuk juga apakah perusahaan memiliki sistem verifikasi usia yang efektif untuk mencegah anak-anak mengakses konten pornografi.
