Kementerian Komunikasi dan Digital (komdigi) mengambil tindakan tegas dengan memblokir sementara akses ke aplikasi kecerdasan buatan (AI), Grok AI. Langkah ini diambil untuk melindungi masyarakat, terutama perempuan dan anak-anak, dari ancaman konten pornografi palsu atau deepfake yang dihasilkan oleh teknologi tersebut.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa pemerintah tidak akan menoleransi praktik deepfake seksual nonkonsensual. Menurutnya, penyebaran konten semacam itu melanggar hak asasi manusia dan martabat warga negara di ruang digital. Pemerintah berkomitmen untuk menjaga keamanan dan kehormatan di dunia maya.
Komdigi Panggil Platform X
Selain pemblokiran, Kemkomdigi juga telah memanggil Platform X (sebelumnya Twitter) sebagai penyedia yang mengintegrasikan Grok. Pemerintah meminta klarifikasi terkait dampak negatif dan kerentanan yang mungkin timbul akibat penggunaan aplikasi tersebut di Indonesia. Tujuannya adalah untuk memastikan pengembang bertanggung jawab atas sistem yang mereka kelola agar tidak disalahgunakan untuk aktivitas ilegal.
Tindakan pemblokiran ini didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Aturan ini mewajibkan setiap PSE untuk memastikan sistem elektronik mereka tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang oleh undang-undang.
Sebelumnya, Kemkomdigi telah menindaklanjuti dugaan penyalahgunaan fitur AI Grok AI di platform X. Teknologi ini diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi atau deepfake tanpa izin korban.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyatakan bahwa Grok AI belum memiliki sistem pengamanan yang memadai untuk mencegah pembuatan konten pornografi berbasis foto warga Indonesia. Hal ini berisiko melanggar privasi dan hak atas citra diri.
Komdigi menegaskan bahwa manipulasi digital terhadap foto pribadi Tuna55 bukan hanya pelanggaran kesusilaan, tetapi juga perampasan identitas visual yang berdampak buruk pada psikologis dan reputasi korban. Komdigi tengah berkoordinasi dengan PSE, termasuk platform X, untuk memperkuat moderasi konten dan mempercepat penanganan laporan pelanggaran.
Alexander memperingatkan bahwa PSE yang tidak patuh terhadap hukum Indonesia dapat dikenai sanksi administratif berupa denda hingga pemutusan akses layanan.
Pemerintah mengimbau masyarakat yang menjadi korban deepfake atau manipulasi foto asusila untuk segera melapor ke aparat penegak hukum atau melalui kanal pengaduan Komdigi.
Kami mengimbau seluruh pihak untuk menggunakan teknologi AI secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum; ada privasi dan hak atas citra diri setiap warga yang harus dihormati, pungkas Alexander.
