Konten AI Berisi Stereotip Seksual Menyebar Luas, Ancam Persepsi Anak-anak Terhadap Perempuan

Obor Keadilan - Fenomena konten animasi yang dihasilkan oleh kecerdasan buatan (AI) kini menjadi sorotan serius kalangan pengamat media dan aktivis hak asasi manusia. Konten yang sering disebut sebagai 'AI slop' ini, meskipun tampak sebagai hiburan ringan dengan format kartun bersetting hewan-hewan lucu, ternyata menyimpan muatan candaan dan narasi yang merendahkan perempuan. Penyebarannya yang masif melalui berbagai platform media sosial menimbulkan kekhawatiran mendalam tentang dampak negatifnya terhadap pembentukan nilai dan pandangan generasi muda Indonesia, khususnya anak-anak yang menjadi target utama audiens konten semacam ini.

Mekanisme produksi konten ini mengandalkan prompt atau perintah dasar yang dimasukkan ke dalam sistem AI generatif, kemudian menghasilkan ribuan variasi cerita tanpa review editorial yang ketat. Dalam prosesnya, bias-bias yang tertanam dalam data pelatihan AI termanifestasi dalam bentuk humor yang mendiskriminasi kelompok tertentu, terutama perempuan. Konten-konten tersebut sering menampilkan tokoh perempuan dalam posisi stereotipikal yang merendahkan, seperti menjadi bahan tertawaan atau digambarkan dengan atribut yang mengekseksualkan. Para pembuat konten ini memanfaatkan kecepatan dan efisiensi AI untuk memproduksi ratusan video setiap hari dengan investasi minimal, menciptakan ekonomi konten yang sangat menguntungkan namun mengabaikan tanggung jawab sosial dan etika penyiaran.

Dampak psikologis dari paparan berulang terhadap konten semacam ini tidak boleh dianggap remeh. Penelitian dalam bidang komunikasi massa menunjukkan bahwa anak-anak yang terekspos terus-menerus terhadap representasi perempuan yang negatif cenderung mengembangkan pandangan yang bias dan diskriminatif dalam kehidupan sosial mereka. Ketika anak laki-laki melihat perempuan selalu digambarkan sebagai tokoh yang lemah, mudah menjadi bahan bercandaan, atau objek seksual, mereka secara gradual menginternalisasi pesan tersebut sebagai norma sosial yang diterima. Sebaliknya, anak perempuan yang menonton konten serupa dapat mengalami penurunan kepercayaan diri dan internalisasi nilai-nilai yang merendahkan diri mereka sendiri. Masalah ini semakin kompleks karena algoritma media sosial dirancang untuk memprioritaskan konten yang viral dan menghasilkan engagement tinggi, tanpa mempedulikan kualitas atau dampak sosialnya.

Merespons kekhawatiran ini, berbagai organisasi pemerhati media dan kesetaraan gender mulai mendesak pemerintah dan platform digital untuk menerapkan regulasi yang lebih ketat terhadap konten yang dihasilkan AI. Diperlukan adanya standar editorial, sistem verifikasi konten, dan audit berkala untuk memastikan bahwa konten AI yang beredar tidak mengandung unsur diskriminasi dan tidak bertentangan dengan nilai-nilai kemasyarakatan yang sehat. Selain itu, literasi media digital perlu ditingkatkan di kalangan orang tua dan pendidik agar mereka dapat membimbing anak-anak untuk mengonsumsi konten secara kritis dan selektif. Perkembangan teknologi AI harus seiring dengan penguatan nilai-nilai etika dan tanggung jawab sosial, bukan justru menjadi instrumen untuk menyebarkan konten yang merendahkan dan merugikan salah satu jenis kelamin. Tanpa langkah serius dari berbagai pihak, generasi mendatang berisiko tumbuh dengan pemahaman yang terdistorsi tentang kesetaraan gender dan martabat manusia.