Pemblokiran Grok AI Dinilai Jadi Penanda Awal Tata Kelola AI di Indonesia
Marknews.id — Keputusan pemerintah Indonesia memutus akses terhadap aplikasi Grok AI di platform X (Twitter) menandai babak baru dalam pengawasan teknologi kecerdasan buatan. Langkah tersebut diambil menyusul maraknya penyalahgunaan fitur Grok AI untuk memanipulasi foto menjadi konten pornografi, yang dinilai berpotensi merusak kondisi mental dan psikis korban.
Pemblokiran ini tidak hanya berdampak di dalam negeri, tetapi juga menarik perhatian media internasional. Indonesia disebut sebagai negara pertama yang secara tegas mengambil tindakan pembatasan terhadap Grok AI karena kekhawatiran atas penyebaran konten pornografi palsu berbasis kecerdasan buatan.
Kebijakan tersebut mendapat respons positif dari kalangan akademisi dan pegiat literasi digital. Deputi Sekretaris Eksekutif Pusat Masyarakat Digital (CfDS) UGM, Iradat Wirid, menilai langkah pemerintah sudah berada di jalur yang tepat untuk melindungi ruang digital publik.
Menurut Iradat, penutupan akses Grok AI bukan semata soal teknologi, tetapi menyangkut benturan antara kepentingan bisnis dan nilai kemanusiaan. Ia menilai kasus ini memperlihatkan adanya persoalan serius dalam penerapan etika kecerdasan buatan pada platform global. “Pemerintah Indonesia harus memiliki independensi terkait kebijakan yang melanggar batas-batas demokrasi dan tidak hanya berpacu pada aturan luar,” ujarnya, Senin (19/1).
Iradat menekankan, setiap inovasi teknologi hampir selalu membawa risiko jika tidak dibarengi dengan kerangka pengamanan yang jelas. Dalam konteks Grok AI, lemahnya pengendalian etis membuka ruang penyalahgunaan yang merugikan masyarakat, khususnya kelompok rentan.
Lebih jauh, ia menyoroti ketimpangan antara laju perkembangan teknologi dan tingkat literasi digital masyarakat. Menurutnya, pemahaman publik terkait penggunaan data pribadi dan aktivitas di media sosial masih tertinggal jauh dari kemajuan teknologi yang ada. Kondisi ini membuat masyarakat rentan menjadi korban kejahatan digital, termasuk kekerasan seksual berbasis gender di ruang online.
Ia mengingatkan bahwa regulasi sebenarnya telah tersedia, seperti Undang-Undang Perlindungan Data Pribadi dan Undang-Undang Tindak Pidana Kekerasan Seksual. Namun, tanpa edukasi yang masif, aturan tersebut sulit memberikan perlindungan maksimal di tingkat pengguna.
Dalam pandangan Iradat, ketegasan pemerintah terhadap platform digital yang merugikan masyarakat menjadi keharusan, terlebih ketika dampaknya berpotensi memicu kejahatan seksual daring. “Satu-satunya yang bisa melindungi diri kita saat ini adalah diri sendiri dengan mengurangi porsi postingan, serta meramaikan kesadaran literasi masyarakat,” kata Iradat.
Ia juga menegaskan pentingnya peran manusia dalam seluruh siklus pengembangan teknologi, mulai dari perancangan algoritma hingga penerapannya di ruang publik. Menurutnya, hanya manusia yang memiliki kapasitas moral dan tanggung jawab untuk memastikan teknologi tidak menyimpang dari tujuan kemanusiaan. “Inovasi teknologi tanpa tanggung jawab termasuk dalam pengunduran peran manusia,” tekannya.
Pemblokiran Grok AI dinilai menjadi momentum awal bagi Indonesia untuk memperkuat tata kelola kecerdasan buatan yang berorientasi pada perlindungan manusia, sekaligus menegaskan bahwa kemajuan teknologi tidak boleh berjalan tanpa kendali etika dan tanggung jawab sosial.
