finnews.id – Kehadiran artificial intelligence (AI) mempermudah pengerjaan di banyak sektor. Sayangnya, banyak pula anggota masyarakat yang menyalahgunakan AI untuk membuat konten pornografi.
Untuk mengantisipasi kondisi tersebut, Bareskrim Polri mengkaji kemungkinan pemidanaan terhadap penyalahgunaan AI, termasuk Grok, yang digunakan untuk membuat konten pornografi dan asusila di media sosial.
Menurut Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, belakangan ini marak penggunaan AI secara menyimpang, terutama untuk manipulasi konten digital.
Tapi, belum seluruhnya disertai sanksi hukum yang tegas. “Sepanjang penggunaan AI tersebut dapat diklasifikasikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan pidana,” ujar Himawan di Mabes Polri, Jakarta, Rabu, 7 Januari 2026.
AI Konsekuensi dari Kemajuan Teknologi
Himawan juga menjelaskan, perkembangan AI merupakan konsekuensi dari kemajuan teknologi. Namun, pemanfaatannya tidak boleh disalahgunakan untuk aktivitas menyimpang yang berpotensi menimbulkan kerugian moral bagi masyarakat.
“Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, dan manipulasi visual,” jelasnya.
Ditambahkan pula, penyimpangan tersebut kerap berupa manipulasi foto atau gambar seseorang hingga menampilkan visual bermuatan asusila dan pornografi tanpa persetujuan pihak terkait.
“Atas dasar itu, kami sedang melakukan pendalaman dari sisi hukum. Penanganan penyalahgunaan AI ini menjadi salah satu fokus Direktorat Tindak Pidana Siber,” kata Himawan.
Bareskrim mencatat, di platform media sosial X, Grok AI digunakan secara masif oleh sejumlah akun untuk memanipulasi gambar atau foto individu.
Dalam sejumlah kasus, perintah yang diberikan kepada AI tersebut mengarah pada pengubahan visual menjadi vulgar dan bermuatan pornografi.
