Grok AI Disalahgunakan di X

TrenHarapan – Belakangan ini, ruang digital Indonesia terasa tidak lagi sepenuhnya aman. Sejumlah pengguna platform X dikejutkan oleh maraknya foto pribadi yang dimanipulasi menjadi konten asusila menggunakan Grok AI. Praktik ini dilakukan tanpa izin, menyasar siapa saja, mulai dari figur publik hingga warga biasa. Di balik layar gawai, korban kerap tidak sadar bahwa citra dirinya telah direkayasa dan disebarluaskan. Fenomena ini menimbulkan ketakutan baru di ruang digital, karena teknologi yang seharusnya membantu justru melukai. Cerita para korban menggambarkan dampak emosional yang berat, mulai dari rasa malu, cemas, hingga tekanan sosial. Situasi ini menunjukkan bahwa kemajuan teknologi tanpa pengawasan dapat berubah menjadi alat perampasan martabat, sekaligus menguji kesiapan negara dalam melindungi warganya di era kecerdasan buatan.

Temuan Awal Komdigi dan Celah Pengamanan Grok AI

Kementerian Komunikasi dan Digital (Komdigi) tidak tinggal diam. Dari hasil penelusuran awal, ditemukan bahwa Grok AI belum memiliki pengaturan yang tegas untuk mencegah produksi dan distribusi konten pornografi berbasis foto asli. Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyebut celah ini sebagai ancaman serius bagi hak privasi dan hak atas citra diri. Ketika teknologi memungkinkan siapa pun memanipulasi wajah dan tubuh orang lain, batas antara realitas dan rekayasa menjadi kabur. Bagi Komdigi, masalah ini bukan semata pelanggaran kesusilaan, melainkan perampasan kendali individu atas identitas visualnya. Dalam konteks sosial Indonesia yang menjunjung nilai kehormatan, dampaknya bisa berlipat ganda. Temuan ini menjadi dasar kuat bagi pemerintah untuk bertindak lebih jauh dan tidak sekadar mengandalkan itikad baik penyedia platform.

Hak Citra Diri dan Luka Psikologis Korban

Manipulasi foto pribadi membawa dampak yang jauh melampaui layar ponsel. Ketika wajah seseorang ditempelkan pada konten asusila, korban kehilangan kendali atas bagaimana dirinya dipersepsikan publik. Komdigi menegaskan bahwa hak atas citra diri adalah bagian dari hak asasi yang wajib dilindungi. Banyak korban mengalami tekanan psikologis, menarik diri dari lingkungan sosial, bahkan kehilangan kepercayaan diri. Reputasi yang dibangun bertahun-tahun dapat runtuh dalam hitungan jam akibat satu unggahan. Di sinilah teknologi berubah menjadi senjata yang melukai secara diam-diam. Cerita-cerita korban memperlihatkan bahwa luka digital tidak kalah nyata dari luka fisik. Negara dituntut hadir, bukan hanya untuk menindak pelaku, tetapi juga memulihkan rasa aman dan martabat mereka yang terdampak.

Koordinasi dengan PSE dan Ancaman Sanksi Tegas

Untuk menutup celah tersebut, Komdigi kini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE). Fokusnya adalah memastikan adanya mekanisme perlindungan yang efektif, mulai dari penguatan moderasi konten hingga pencegahan pembuatan deepfake asusila. Alexander menegaskan bahwa setiap PSE wajib patuh pada hukum Indonesia. Jika ditemukan sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat dijatuhkan. Pesan ini jelas: ruang digital Indonesia bukan wilayah bebas hukum. Langkah tegas ini diharapkan memberi efek jera, sekaligus mendorong platform global untuk lebih bertanggung jawab. Di tengah derasnya arus teknologi lintas negara, ketegasan regulasi menjadi benteng terakhir agar kepentingan warga tidak dikorbankan demi inovasi yang kebablasan.

“Simak Juga : Malware macOS Menyamar Jadi Aplikasi Resmi, Ancaman Baru bagi Pengguna Mac”

Payung Hukum Baru dan Konsekuensi Pidana

Berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang KUHP pada awal 2026 memperkuat posisi negara dalam menindak konten pornografi. Pasal 172 dan 407 secara jelas mengatur definisi serta ancaman pidana bagi pelaku. Ancaman hukuman penjara hingga 10 tahun menunjukkan keseriusan negara dalam melindungi warganya. Bagi korban, ini menjadi harapan bahwa keadilan dapat ditegakkan. Komdigi juga mengingatkan bahwa korban manipulasi foto memiliki jalur hukum yang jelas, baik melalui aparat penegak hukum maupun pengaduan resmi ke kementerian. Regulasi ini bukan untuk membungkam kebebasan berekspresi, melainkan menjaga agar kebebasan tidak melukai hak orang lain. Hukum hadir sebagai penyeimbang di tengah kemajuan teknologi yang kian agresif.

Tekanan Global dan Gelombang Pengawasan Internasional

Indonesia tidak sendirian menghadapi persoalan ini. Sejumlah negara seperti India, Prancis, dan Malaysia telah mengambil langkah serupa terhadap penyalahgunaan Grok AI di platform X. Otoritas India bahkan mengancam mencabut perlindungan “safe harbor” jika X tidak bertindak cepat. Di Prancis, laporan deepfake seksual mendorong penyelidikan jaksa, sementara Malaysia menyoroti bahaya manipulasi digital terhadap perempuan dan anak. Tekanan global ini menunjukkan bahwa masalah penyalahgunaan AI bersifat lintas batas. Ketika negara-negara bergerak serempak, pesan yang muncul jelas: inovasi teknologi harus berjalan seiring tanggung jawab etis. Bagi Indonesia, langkah Komdigi menjadi bagian dari upaya global menjaga ruang digital tetap manusiawi dan bermartabat.