FACEINDONESIA.CO.ID – Kementerian Komunikasi dan Digital (Kemkomdigi) memblokir sementara akses platform kecerdasan buatan (AI) Grok.
Langkah ini diambil untuk melindungi masyarakat dari penyebaran konten asusila berbasis manipulasi foto atau deepfake seksual yang dinilai melanggar etika, hukum, dan mengancam keamanan ruang digital.
Menteri Komunikasi dan Digital Meutya Hafid mengatakan, pemutusan akses dilakukan karena fitur Grok berisiko tinggi disalahgunakan untuk membuat konten seksual palsu tanpa persetujuan pemilik foto. Praktik tersebut dinilai sebagai pelanggaran serius terhadap martabat manusia.
“Pemutusan akses sementara dilakukan demi melindungi perempuan, anak, dan masyarakat dari konten pornografi palsu,” ujar Meutya dalam pernyataan resmi, Sabtu (10/1/2026).
Menurut Meutya, deepfake seksual nonkonsensual merupakan kejahatan serius karena banyak foto pribadi diedit tanpa izin menjadi konten asusila. Karena itu, Kemkomdigi meminta platform X selaku pengelola Grok segera memberikan klarifikasi resmi terkait dampak dan pengamanan fitur tersebut.
“Kemkomdigi telah meminta X segera hadir untuk memberikan klarifikasi atas dampak negatif penggunaan Grok,” tegasnya.
Pemblokiran sementara ini, lanjut Meutya, memiliki dasar hukum yang jelas, yakni Peraturan Menteri Kominfo Nomor 5 Tahun 2020 yang mewajibkan Penyelenggara Sistem Elektronik (PSE) Lingkup Privat mencegah penyebaran konten terlarang.
Langkah tegas pemerintah muncul setelah Grok ramai digunakan untuk mengedit foto menjadi gambar pornografi, termasuk fitur penghapusan pakaian hanya melalui perintah teks. Akibatnya, ruang digital sempat dibanjiri konten vulgar tanpa persetujuan korban.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar menegaskan, persoalan Grok tidak bisa dianggap sepele. Hasil penelusuran tim menemukan celah serius dalam pengaturan aplikasi tersebut yang memungkinkan foto pribadi warga dengan mudah dimanipulasi menjadi konten pornografi.
“Grok belum memiliki pengaturan spesifik yang memadai untuk mencegah pembuatan konten pornografi dari foto pribadi,” jelas Alexander.
Menurutnya, pemutusan akses sementara merupakan langkah terukur untuk menghentikan dampak yang lebih luas.
“Teknologi harus tunduk pada etika dan hukum. Tidak boleh menjadi alat pelanggaran privasi, eksploitasi seksual, atau perusakan martabat manusia,” tegasnya. (San)
