finnews.id – Indonesia mencatatkan langkah bersejarah di dunia digital global. Melalui Kementerian Komunikasi dan Digital (Kemkomdigi), Indonesia resmi menjadi negara pertama di dunia yang memutus akses sementara chatbot berbasis kecerdasan artifisial (AI) Grok, menyusul maraknya penyalahgunaan teknologi tersebut untuk konten pornografi palsu berbasis deepfake.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa negara tidak akan tinggal diam terhadap praktik manipulasi digital yang merendahkan martabat manusia, khususnya perempuan dan anak.
“Praktik deepfake bermuatan seksual tanpa persetujuan adalah pelanggaran serius terhadap hak asasi manusia. Negara wajib hadir untuk melindungi warganya,” tegas Meutya dalam siaran pers di Jakarta, Minggu.
Pemblokiran sementara Grok dilakukan sebagai langkah preventif untuk menjaga ruang digital Indonesia tetap aman, beretika, dan manusiawi. Pemerintah menilai teknologi AI tidak boleh dibiarkan berkembang tanpa batas hingga membuka ruang eksploitasi seksual dan kejahatan digital.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko pornografi palsu yang dihasilkan oleh AI, pemerintah memutuskan menghentikan sementara akses terhadap aplikasi Grok,” ujar Meutya.
Langkah tegas ini diambil setelah ditemukan indikasi kuat penyalahgunaan Grok dalam pembuatan dan penyebaran konten seksual nonkonsensual berbasis deepfake. Pemerintah menilai praktik tersebut sebagai ancaman nyata terhadap privasi, keamanan publik, serta nilai-nilai kemanusiaan.
Menurut Meutya, ruang digital tidak boleh menjadi wilayah bebas hukum. Inovasi teknologi harus berjalan seiring dengan tanggung jawab moral dan kepatuhan hukum.
Selain pemutusan akses, Kemkomdigi juga mendesak X selaku pengelola platform untuk memberikan klarifikasi resmi dan menunjukkan komitmen perbaikan. Evaluasi lanjutan akan dilakukan sebelum pemerintah mempertimbangkan pembukaan kembali akses layanan tersebut.
Kebijakan ini memiliki dasar hukum kuat, yakni Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform digital memastikan layanannya bebas dari konten yang dilarang oleh hukum Indonesia.
Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah Indonesia patut diapresiasi dan dapat menjadi preseden global dalam pengawasan platform AI.
“Indonesia justru bisa menjadi pelopor dalam memastikan teknologi global tetap aman dan beretika. Jika sebuah platform terbukti mengancam perempuan dan anak, pemblokiran adalah langkah yang wajar,” ujarnya.
Alfons menegaskan, penyedia platform digital tidak bisa hanya mengejar keuntungan bisnis tanpa memperhatikan norma, etika, dan hukum di negara tempat mereka beroperasi.
“Nilai moral tiap negara berbeda. Apa yang dianggap normal di satu negara belum tentu bisa diterima di Indonesia. Platform global tidak bisa menerapkan satu standar untuk seluruh dunia,” pungkasnya.
