Pemerintah Indonesia melalui  Kementerian Komunikasi dan Digital (Komdigi)  resmi memblokir sementara akses terhadap Grok AI, chatbot berbasis kecerdasan buatan milik perusahaan xAI yang terintegrasi dengan platform X. Kebijakan ini diambil menyusul maraknya penyalahgunaan teknologi tersebut untuk membuat konten deepfake bermuatan asusila, terutama yang menyasar perempuan dan anak-anak.

Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa langkah pemblokiran merupakan bentuk perlindungan negara terhadap masyarakat dari dampak negatif teknologi digital yang disalahgunakan. Menurutnya, praktik manipulasi foto menjadi konten seksual tanpa persetujuan korban merupakan pelanggaran serius terhadap hak asasi manusia, martabat individu, dan keamanan ruang digital.

Baca Lainnya :

• RedDoorz Balaraja Salurkan Bantuan Sembako Pasca Banjir Untuk Warga Kampung Bojong, Desa Pasir Ampo0
• Di Duga Langgar Sop Oprasional Mitra Pt. Timah di Mentok Menuai Protes0
• Bhabinkamtibmas Polsek Balaraja Polresta Tangerang Ajak Tokoh Pemuda Jaga Keamanan Lingkungan Desa G0
• Polsek Panongan Ikuti Vicon Panen Raya, Dukung Program Swasembada Pangan Nasional0
• Ciptakan Wilayah Yang Aman dan Kondusif Koramil 04/Cikupa Gelar Patroli Malam0

Penyalahgunaan AI Jadi Sorotan

Komdigi menyoroti temuan di lapangan yang menunjukkan bahwa Grok AI digunakan untuk mengedit foto seseorang menjadi gambar bernuansa seksual hanya melalui perintah teks tertentu. Fenomena ini dinilai sangat berbahaya karena dapat merusak reputasi korban, memicu trauma psikologis, serta membuka ruang terjadinya perundungan dan pelecehan lanjutan di dunia maya.

Pemblokiran dilakukan berdasarkan ketentuan penyelenggara sistem elektronik yang mewajibkan platform digital memastikan layanannya tidak memfasilitasi penyebaran konten terlarang, termasuk pornografi dan eksploitasi seksual.

Konteks Global: Dunia Ikut Bereaksi

Kasus Grok AI tidak hanya menjadi perhatian Indonesia. Sejumlah negara juga menyuarakan keprihatinan dan mengambil langkah pengawasan ketat terhadap penyalahgunaan teknologi AI untuk membuat deepfake seksual.

Di **Australia**, otoritas keamanan daring menerima banyak laporan terkait gambar hasil AI yang menampilkan perempuan dan anak dalam konteks seksual. Pemerintah setempat meminta klarifikasi langsung dari pengelola platform mengenai sistem pengamanan konten yang diterapkan.

Sementara itu, di kawasan Eropa, regulator digital menilai praktik deepfake asusila sebagai pelanggaran serius terhadap hukum perlindungan data dan layanan digital. Beberapa lembaga pengawas bahkan meminta agar data internal terkait pengembangan dan distribusi Grok AI diamankan untuk kepentingan penyelidikan.

Negara lain seperti Inggris dan India juga menyatakan keprihatinan serupa, menilai pembatasan fitur AI hanya untuk pengguna berbayar belum cukup untuk menghentikan penyebaran konten berbahaya.

Respons dari Pengembang

Menanggapi tekanan global, pihak pengembang Grok AI dan platform X telah melakukan pembatasan fitur pembuatan serta pengeditan gambar. Namun, sejumlah pemerintah menilai langkah tersebut belum memadai dan belum menyentuh akar persoalan, yakni lemahnya sistem pengawasan dan etika dalam pengembangan AI generatif.

Dorongan Regulasi AI yang Lebih Ketat

Pemblokiran Grok AI oleh Indonesia dipandang sebagai sinyal kuat bahwa negara-negara mulai mengambil sikap tegas terhadap risiko kecerdasan buatan. Kasus ini sekaligus mendorong diskusi global mengenai pentingnya regulasi AI yang menekankan aspek keselamatan, etika, privasi, dan perlindungan kelompok rentan.

Indonesia menegaskan komitmennya untuk memastikan pemanfaatan teknologi digital tetap berada dalam koridor hukum dan nilai kemanusiaan, sekaligus menjadi peringatan bagi platform global agar lebih bertanggung jawab dalam mengelola inovasi berbasis AI.