SUKABUMIUPDATE.com - Belakangan ini Grok AI kepunyaan dari platform X ramai diperbincangkan warganet. Bagaimana tidak, tools yang seharusnya dipergunakan untuk membantu dan mempermudah mengakses informasi, kini disalahgunakan oleh akun-akun yang tidak bertanggung jawab.
Merespon hal tersebut, Kementerian Komunikasi dan Digital (Kemkomdigi) tengah mendalami dugaan penyalahgunaan teknologi kecerdasan buatan Grok AI pada platform X yang diduga digunakan untuk membuat dan menyebarkan konten asusila. Praktik tersebut mencakup manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan bahwa hasil pemeriksaan awal menunjukkan Grok AI belum dilengkapi dengan pengaturan yang tegas dan memadai untuk mencegah pembuatan serta peredaran konten pornografi berbasis foto nyata milik warga Indonesia.
Kondisi ini dinilai berpotensi melanggar hak privasi serta hak atas citra diri seseorang, terutama ketika foto pribadi dimanipulasi atau disebarluaskan tanpa izin yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dikutip dalam keterangan resminya.
Kemkomdigi menilai bahwa manipulasi digital terhadap foto pribadi tidak hanya menyangkut persoalan kesusilaan, tetapi juga merupakan bentuk pengambilalihan kendali individu atas identitas visualnya. Dampak dari praktik tersebut dapat menimbulkan kerugian psikologis, sosial, hingga merusak reputasi korban.
Baca Juga: Cuaca Jabar 7 Januari 2026, Sukabumi Potensi Hujan Sedang-Lebat di Siang Hari
Alexander menambahkan, pihaknya saat ini terus berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) guna memastikan tersedianya sistem perlindungan yang efektif. Upaya tersebut meliputi penguatan mekanisme moderasi konten, pencegahan pembuatan deepfake bermuatan asusila, serta penyediaan prosedur penanganan cepat terhadap laporan pelanggaran privasi dan hak citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.
Kemkomdigi juga mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia terikat kewajiban untuk mematuhi peraturan perundang-undangan nasional. Apabila ditemukan pelanggaran atau ketidakpatuhan, Kemkomdigi berwenang menjatuhkan sanksi administratif hingga melakukan pemutusan akses (blokir) terhadap layanan Grok AI maupun platform X.
Selain itu, Kemkomdigi menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi serta manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai hukum yang berlaku.
Sejak diberlakukannya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi tercantum dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sedangkan Pasal 407 mengatur ancaman pidana penjara minimal enam bulan hingga maksimal sepuluh tahun atau pidana denda sesuai ketentuan.
Minggu lalu, Copyleaks menerbitkan analisis yang menyoroti tren yang mengkhawatirkan di X yang melibatkan Grok, alat pembuatan gambar AI di dalam platform tersebut. Pada saat itu, kami mengamati bahwa Grok disalahgunakan—dan dalam beberapa kasus digunakan dengan niat jahat—untuk menghasilkan gambar orang yang dimanipulasi secara seksual dan tanpa persetujuan dengan tingkat yang mengkhawatirkan.
Alexander juga mengimbau masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri untuk menempuh jalur hukum yang tersedia, baik melalui pelaporan kepada aparat penegak hukum maupun pengaduan resmi ke Kemkomdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.
Mengutip laporan Copyleaks, pada pekan lalu telah diterbitkan analisis yang menyoroti tren mengkhawatirkan di platform X terkait penggunaan Grok, alat pembuat gambar berbasis kecerdasan buatan yang terintegrasi di dalamnya.
Dalam analisis tersebut ditemukan bahwa Grok disalahgunakan bahkan dalam sejumlah kasus digunakan dengan niat jahat untuk menghasilkan gambar individu yang dimanipulasi secara seksual tanpa persetujuan, dengan tingkat kejadian yang cukup tinggi dan memprihatinkan.
Tren tersebut masih berlanjut hingga pekan ini. Meski pihak X disebut telah mengambil sejumlah langkah untuk membatasi penggunaan perintah tertentu, hasil peninjauan lanjutan menunjukkan bahwa praktik bermasalah tersebut tetap terjadi. Penyalahgunaan masih dapat dilakukan melalui penggunaan bahasa perintah yang dimodifikasi atau disamarkan secara tidak langsung.
