finnews.id – Badan pengawas media Inggris, Ofcom, resmi membuka penyelidikan terhadap platform media sosial X menyusul laporan penyalahgunaan chatbot kecerdasan buatan Grok. Chatbot tersebut diduga digunakan untuk membuat dan menyebarkan konten pornografi serta pelecehan seksual terhadap anak.
Apa yang Diselidiki oleh Ofcom?
Penyelidikan ini dipicu oleh adanya dugaan bahwa Grok, alat AI yang terintegrasi dalam platform X, telah digunakan untuk menghasilkan gambar sexualisasi dan deepfake yang memuat:
- Gambar tidak senonoh tanpa persetujuan individu, termasuk wanita dewasa.
- Konten berpotensi termasuk child sexual abuse material (CSAM), yaitu gambar anak yang diseksualisasi secara tidak sah.
Ofcom menilai terdapat potensi pelanggaran terhadap Online Safety Act (OSA) Inggris – undang-undang yang menuntut platform online mengambil langkah tegas untuk mencegah penyebaran konten ilegal dan berbahaya.
Proses Penyelidikan dan Fokusnya
Menurut pernyataan resmi, penyelidikan ini akan memeriksa apakah X gagal:
- Melakukan penilaian risiko yang memadai sebelum mengubah layanannya, terutama terkait fitur Grok.
- Mencegah konten ilegal seperti gambar intim tanpa izin tersebar di platform.
- Menghapus konten terlarang secara cepat dan efektif setelah dilaporkan.
- Melindungi anak dan privasi pengguna, termasuk langkah verifikasi usia agar anak tidak terpapar konten pornografi
Dalam penyelidikan tersebut, Ofcom akan mengecek sejumlah hal krusial. Mulai dari apakah X sudah mengambil langkah yang tepat untuk mencegah pengguna di Inggris mengakses konten ilegal, seperti materi pelecehan seksual anak dan gambar intim tanpa persetujuan. Regulator juga menilai seberapa cepat platform itu menghapus konten ilegal setelah mengetahuinya, serta apakah X melakukan penilaian risiko terbaru sebelum melakukan perubahan besar pada platformnya.
Tak hanya itu, Ofcom turut menyelidiki apakah X telah menilai risiko yang ditimbulkan platformnya terhadap anak-anak di Inggris. Termasuk juga apakah perusahaan memiliki sistem verifikasi usia yang efektif untuk mencegah anak-anak mengakses konten pornografi.
Regulator Inggris menyatakan telah menghubungi X pada 5 Januari dan menerima tanggapan dari perusahaan tersebut sesuai tenggat pada 9 Januari 2026. Saat ini, Ofcom tengah melakukan penilaian cepat terhadap bukti yang tersedia dan juga meminta xAI memberikan klarifikasi soal langkah-langkah yang diambil untuk melindungi pengguna di Inggris.
“Laporan tentang penggunaan Grok untuk membuat dan menyebarkan gambar intim ilegal tanpa persetujuan serta materi eksploitasi seksual anak sangat mengkhawatirkan,” kata juru bicara Ofcom.
“Platform harus melindungi masyarakat di Inggris dari konten yang ilegal di Inggris, dan kami tidak akan ragu untuk menyelidiki jika kami mencurigai perusahaan gagal dalam menjalankan tugasnya, terutama jika ada risiko yang membahayakan anak-anak,” lanjutnya.
Jika X terbukti melanggar aturan, Ofcom bisa memerintahkan platform tersebut untuk menjalankan langkah-langkah korektif sesuai ketentuan hukum. Regulator juga memiliki kewenangan menjatuhkan denda hingga 18 juta poundsterling atau 10 persen dari pendapatan global platform.
Selain denda, Ofcom dapat meminta perintah pengadilan untuk menghentikan kerja sama penyedia layanan pembayaran atau pengiklan dengan X. Bahkan, penyedia layanan internet di Inggris bisa diwajibkan memblokir akses ke platform tersebut.
Pemerintah Inggris menyatakan akan mendukung penuh langkah Ofcom apabila tindakan penegakan hukum memang diperlukan.
Di luar Inggris, penyelidikan serupa juga dilakukan oleh regulator di Uni Eropa dan India terkait penyalahgunaan Grok. Sementara itu, Malaysia dan Indonesia sudah lebih dulu memblokir akses ke Grok.
Otoritas di Indonesia menilai Grok belum memiliki sistem pengamanan yang efektif untuk mencegah pembuatan dan penyebaran konten pornografi deepfake eksplisit. Hal senada disampaikan Komisi Komunikasi dan Multimedia Malaysia, yang menyebut adanya penyalahgunaan Grok secara berulang untuk membuat deepfake eksplisit non-konsensual, termasuk yang melibatkan perempuan dan anak-anak.
Regulator Malaysia menegaskan pemblokiran Grok akan tetap berlaku sampai X Corp dan xAI menerapkan langkah pengamanan yang dinilai memadai.
