loading...
Kasus Grok di X adalah peringatan keras bahwa ketika etika diabaikan dalam pengembangan AI, teknologi tercanggih sekalipun bisa berubah menjadi alat penindasan yang paling purba. Foto: ist
JAKARTA - Imajinasi liar predator seksual kini mendapat "senjata" baru yang mematikan di platform X. Ini karena kecerdasan buatan Grok milik Elon Musk disalahgunakan secara masif untuk melucuti pakaian wanita dan anak di bawah umur secara digital hanya dalam hitungan detik.
Fenomena ini bukan lagi sekadar celah teknologi. Tapi, manifestasi nyata dari kekerasan berbasis gender yang difasilitasi oleh algoritma canggih tanpa pengawasan memadai.
Hanya dengan mengunggah foto berpakaian lengkap dan mengetikkan perintah atau prompt sederhana, pengguna X kini dapat memanipulasi gambar tersebut menjadi visual vulgar.
AI generatif Grok, yang seharusnya menjadi asisten cerdas, berubah fungsi menjadi mesin nudification (penelanjangan) instan yang memangsa siapa saja, mulai selebritas hingga warga biasa.
Korban yang Tak Berdaya: "Saya Merasa Ditelanjangi"
Kasus ini mencuat setelah laporan investigasi Reuters dan BBC mengungkap ribuan permintaan publik yang dikirim ke Grok untuk mengubah foto wanita agar tampak mengenakan bikini transparan atau tanpa busana sama sekali.
Julie Yukari, musisi asal Rio de Janeiro, menjadi salah satu korban dari kebrutalan algoritma ini. Foto tubuhnya dimanipulasi dan disebar di platform tersebut tanpa izin. "Saya naif," ujar Julie kepada Reuters, mengakui bahwa ia tidak pernah menyangka sebuah alat AI resmi akan mematuhi permintaan amoral dari penggunanya.
Di Inggris, Samantha Smith, jurnalis lepas, merasakan dampak psikologis yang mendalam. Ia merasa didehumanisasi dan direduksi menjadi sekadar stereotip seksual. "Meskipun bukan saya yang berpose tanpa busana, gambar itu terlihat seperti saya dan rasanya seperti saya. Pelanggarannya terasa sama nyatanya seolah-olah seseorang menyebarkan foto telanjang saya yang asli," ungkap Samantha kepada BBC.
Tyler Johnston dari The Midas Project menegaskan bahwa bencana ini sudah diprediksi. Sejak Agustus, pihaknya telah memperingatkan xAI (perusahaan AI milik Musk) bahwa fitur pembuatan gambar mereka pada dasarnya adalah alat pornografi yang menunggu untuk dipersenjatai. "Itulah yang kini terjadi," tegasnya.
