1 hour ago
5
Ibu mengambil foto atau video anaknya (ilustrasi). Di balik tampilan visual yang lucu dan menarik dari konten dance yang dibuat pakai AI, terdapat risiko serius terkait keamanan data dan privasi anak.
REPUBLIKA.CO.ID, JAKARTA -- Maraknya tren mengedit wajah anak menggunakan kecerdasan buatan (Al) untuk konten dance di media sosial dinilai perlu disikapi secara kritis oleh masyarakat. Ketua Program Studi Kecerdasan Buatan IPB University, Prof Yeni Herdiyani, menegaskan bahwa di balik tampilan visual yang lucu dan menarik, terdapat risiko serius terkait keamanan data dan privasi anak.
Prof Yeni menjelaskan bahwa teknologi Al yang banyak digunakan saat ini merupakan generative Al (Gen-Al), yakni teknologi yang mampu menghasilkan data berupa gambar, video, teks, hingga suara berdasarkan model dan informasi yang tersedia. "Bayi dan dance adalah model yang sudah bisa dibuat oleh algoritma. Jika diberi informasi berupa foto riil, maka Al dapat membuat hasil secara otomatis yang tampak nyata. Itulah mekanisme teknologinya," kata Prof Yeni dalam keterangan tertulis, dikutip Rabu (11/2/2026).
Dari sisi risiko, penggunaan wajah anak sebagai data Al dinilai rentan terhadap kejahatan digital. Prof Yeni menyebutkan bahwa ketika foto diunggah ke ruang publik; data tersebut pada dasarnya dapat diakses dan berpotensi disalahgunakan oleh pihak yang tidak bertanggung jawab.
"Kondisi ini menempatkan anak sebagai kelompok yang sangat rentan dalam ekosistem digital," kata dia.
Karena itu, kata Prof Yeni, orang tua perlu memahami risiko digital sebelum mengunggah atau mengedit wajah anak menggunakan Al. Risiko tersebut mencakup keamanan data, perlindungan privasi, serta kemungkinan penyalahgunaan data.
Selain itu, penting bagi pengguna untuk memahami bahwa data yang diberikan kepada algoritma Al bisa digunakan untuk melatih model sebagai dataset dan berpotensi muncul dalam bentuk lain. Untuk merespons tren ini, Prof Yeni menekankan keutamaan literasi digital di masyarakat. la menyampaikan bahwa IPB University secara konsisten memberikan materi etika dan tanggung jawab penggunaan teknologi dalam perkuliahan berpikir komputasional bagi mahasiswa baru, sejak di tingkat pertama.
"Upaya ini diharapkan dapat membentuk masyarakat yang lebih kritis dan bertanggung jawab dalam memanfaatkan teknologi Al," kata dia.
