Algoritma dari gulungan Instagram, bagian dari raksasa Meta, dia mengangkat kekhawatiran terhadap keselamatan anak di bawah umur. Investigasi Wall Street Journal mengungkapkan bahwa dengan mengikuti akun influencer muda tertentu, algoritme tersebut dimulai menyarankan kadar tidak pantas e seksual, di samping iklan dari merek besar. Singkatnya, Instagram menampilkan konten dewasa bahkan kepada mereka yang tidak seharusnya.
Algoritma Instagram kontroversial yang menampilkan konten dewasa (dilarang) bahkan kepada anak di bawah umur
Tes yang dilakukan oleh Wall Street Journal, yang melibatkan pembuatan akun yang dimaksudkan untuk mengikuti influencer muda seperti pesenam dan pemandu sorak, menunjukkan bahwa algoritma Instagram sudah mulai mengusulkan konten dewasa, termasuk video seksual yang melibatkan orang dewasa dan anak di bawah umur, serta iklan dari merek terkenal AS.
Penyelidikan mengungkapkan tren yang mengkhawatirkan: akun-akun yang mengikuti anak-anak muda ini terpapar a campuran pornografi dan materi yang bersifat seksual terhadap anak-anak. Para ahli dalam sistem rekomendasi algoritmik telah menyoroti bagaimana konten "khusus" dapat memberikan sinyal yang lebih kuat dibandingkan dengan kepentingan umum, sehingga mendorong algoritme untuk mengarahkan konten yang tidak pantas kepada pengguna.
Baca juga: Rahasia Pulcinella terungkap: jutaan pengguna di bawah umur di Instagram
Masalah pengumpulan konten dewasa di Instagram itu diketahui secara internal dan mencegah penyebaran tersebut memerlukan perubahan signifikan pada algoritma rekomendasi. Namun dokumen perusahaan menunjukkan hal itu personel keamanan sebagian besar dilarang melakukan perubahan pada platform yang dapat mengurangi jumlah pengguna aktif harian.
Sebagai tanggapan, Meta mengatakan pihaknya menginvestasikan miliaran dolar dalam solusi keselamatan, keamanan, dan kesesuaian merek, sambil mengakui perlunya perbaikan lebih lanjut. Berbagai perusahaan, termasuk Cocok Kelompok e Menggagap, mereka menangguhkan atau mengurangi iklan mereka di Reels dan platform Meta lainnya setelah penemuan ini. Lainnya, seperti Disney e Himne, menekan Meta untuk menghindari penempatan iklan tersebut dan telah menyatakan keprihatinannya asosiasi merek mereka dengan konten tersebut.
