Komdigi Blokir Platform AI Grok

JAKARTA— Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutuskan untuk melakukan pemutusan akses sementara terhadap platform Grok, chatbot kecerdasan artifisial milik platform X.

Kebijakan tersebut diambil menyusul ditemukannya potensi risiko penyebaran konten pornografi palsu berbasis teknologi deepfake yang dinilai dapat membahayakan perempuan, anak, serta masyarakat luas di ruang digital.

Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid menegaskan pemerintah menilai praktik deepfake seksual tanpa persetujuan sebagai bentuk pelanggaran berat terhadap hak asasi manusia.

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujarnya dalam keterangan resmi, Sabtu (10/1). 

Selain memberlakukan pemutusan akses sementara, Komdigi juga telah meminta pihak platform X untuk segera hadir dan memberikan klarifikasi terkait dampak negatif penggunaan Grok di Indonesia.

Langkah pemblokiran ini dilakukan berdasarkan kewenangan Komdigi sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.

Secara khusus, ketentuan tersebut tercantum dalam Pasal 9 yang mewajibkan setiap PSE memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, maupun menyebarluaskan konten yang dilarang oleh peraturan perundang-undangan.

Sebelumnya, Komdigi telah menaruh perhatian serius terhadap penggunaan Grok yang diduga dimanfaatkan untuk memproduksi serta menyebarkan konten asusila berbasis foto asli pengguna tanpa adanya persetujuan.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengungkapkan bahwa Grok AI dinilai belum memiliki pengaturan yang memadai untuk mencegah pembuatan dan distribusi konten pornografi yang bersumber dari foto pribadi warga Indonesia.

“Temuan awal kami menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Kondisi ini berpotensi menimbulkan pelanggaran serius terhadap privasi serta hak atas citra diri warga,” ujar Alexander, dikutip dari laman resmi Komdigi.

Komdigi menegaskan pemutusan akses terhadap Grok bersifat sementara. Kebijakan tersebut akan dievaluasi kembali setelah platform X memberikan penjelasan resmi serta menunjukkan komitmen nyata dalam memperkuat sistem pengamanan konten berbasis kecerdasan artifisial.(disway/nca)