Bir akademisyen tarafından gerçekleştirilen, Wall Street Journal tarafından teyit edilen ve yaklaşık yedi ayı kapsayan testlere göre Instagram algoritması ergenlik çağındaki çocuklara cinsel içerikli ve müstehcen videolar öneriyor.
Wall Street Journal’ın haberine göre 2022 yılına ait şirket içi raporlar, algoritmanın genç kullanıcılara yetişkinlerden daha fazla pornografi, vahşet ve nefret söylemi barındıran içerikler gösterdiğini Meta’nın uzun zamandır bildiğini ortaya koydu.
Basına yansıyan son rapor ise Northeastern Üniversitesi bilgisayar bilimleri profesörü Laura Edelson’ın gerçekleştirdiği bir deneye dayanıyor. Wall Street Journal testlerde kullanılan metodolojiyi ve sonuçları şöyle aktarıyor:
Yeni hesaplar açıldı ve kullanıcıların yaşı 13 olarak işaretlendi. Bu hesaplardan Instagram’ın Reels olarak bilinen video akışı izlendi.
İlk videolar komedi, arabalar veya dublörlerin görüntülerini içeriyordu. Test hesapları bu tür videoları kaydırarak geçti; hiçbir videoyu beğenmedi, kaydetmedi ve tıklamadı.
Kısa bir süre sonra Instagram komedi ve dublör videolarını önermeyi büyük ölçüde bıraktı ve ilk etapta orta seviyede müstehcen videolardan oluşan bir seçki sundu.
Hesaplar bu videoları sonuna kadar izlediğinde Reels algoritması daha müstehcen içerikler önerdi. Yetişkinlere yönelik seks içerikli videolar üç dakika gibi kısa bir süre içinde akışlarda yer almaya başladı.
Reels’i izledikten 20 dakika sonra test hesaplarının akışlarına bu tür içerik üreticilerinin tanıtımları egemen oldu. Ve bazıları gönderileriyle etkileşime giren kullanıcılara çıplak fotoğraf göndermeyi vadediyordu.
Prof. Edelson tarafından yapılan testlerin büyük kısmı Ocak-Nisan ayları arasında gerçekleşti. Wall Street Journal tarafından Haziran ayında yapılan ikinci bir testte bu sorunların devam ettiği görüldü. Sadece Instagram’ın önerdiği ve kadınların yer aldığı videoları izleyen 13 yaş kategorisindeki bir test hesabına yarım saat içinde seksle ilgili peşi sıra video önerileri gelmeye başladı.
Snapchat ve TikTok’un kısa video formatları üzerinde yapılan benzer testlerde ise 13 yaşındaki kullanıcıların akışında cinsel içerikli görüntülere rastlanmadı. Reşit olmayan kullanıcılara önerilen içerik konusunda üç platformun birbirinden farklı olduğunu vurgulayan Edelson, “TikTok’taki yetişkin deneyimi bile Reels’ın gençlere sunduğu deneyimden çok daha az müstehcen” diyor.
Meta sözcüsü: ‘Gerçeklerle örtüşmeyen yapay bir deney’
Meta, test bulgularını gençlerin platformadaki genel deneyimini yansıtmadığı gerekçesiyle reddetti. Sözcü Andy Stone testleri, “Gençlerin Instagram’ı nasıl kullandığı gerçeğiyle örtüşmeyen yapay bir deney olarak nitelendirdi.
Stone, şirketin reşit olmayanlara yönelik uygunsuz içeriği önleme çabalarının devam ettiğini söyledi. “Uzun soluklu çalışmalarımızın bir parçası olarak gençlerin Instagram’da görebileceği hassas içerik hacmini daha da azaltmak için bir ekip kurduk ve geçtiğimiz birkaç ay içinde sayıları anlamlı bir şekilde azalttık” diye ekledi.
Meta geçtiğimiz Ocak ayında gençlere daha ‘yaşa uygun’ bir deneyim sunacağını açıklamıştı. Şirkete göre ‘reşit olmayan’ olarak işaretlenen Instagram hesapları otomatik olarak en katı içerik kontrol sınırlamalarına tabi tutuluyor. Ancak aylar süren test sonuçları tam aksine işaret ediyor.
‘Çevrimiçi Gizliliği Koruma Yasası’ uyarınca 13 yaşın altındaki çocuklar Instagram veya Facebook’a kayıt olamıyor. Ancak çevrim içi ortamda yaş konusunda yalan söyleyerek bir sosyal medya hesabı açmak çok yaygın kullanılan bir yöntem.
Geçen yılın Ekim ayında ABD’nin 33 eyaleti tarafından Meta’ya dava açıldı ve şikâyet dilekçesinde ‘Meta’nın etkili yaş kontrol sistemlerini bir öncelik hâline getirmede ‘sürekli olarak başarısız olduğu’ ayrıca 13 yaşın altındaki kullanıcıların Instagram hesabı oluşturmak için yaşı hakkında yalan söylemesine zemin hazırlayan yöntemler kullandığı’ vurgulandı.
Dava belgelerine göre Meta, 2019’un başından bu yana 13 yaşın altındaki kullanıcılarla ilgili 1,1 milyondan fazla şikâyet aldı ancak bu hesapların yalnızca bir kısmını devre dışı bıraktı. Ayrıca 13 yaşının altındaki çocuklar hakkında veri toplamayı yasaklayan kanunu çiğnedi; çocukların hesabını devre dışı bırakmak bir yana konum ve e-posta adresi gibi kişisel bilgilerini rutin olarak toplamaya devam etti.
Geçtiğimiz aylarda kamuoyuna yansıyan şirket içi yazışmalar da Meta’nın platformlarında çocuklara yönelik cinsel tacizin devasa boyutlarını bildiğini ortaya koydu. Şirket çalışanları Facebook ve Instagram kullanan yaklaşık 100 bin çocuğun her gün çevrim içi cinsel tacize uğradığını tahmin ediyordu ve bu bilgi sosyal medya devine karşı açılan bir dava sürecinde ortaya çıkmıştı. Meta çalışanları tarafından yapılan sunum ve şirket içi yazışmalara dayanan söz konusu belgelerde, Apple’da çalışan bir yöneticinin 12 yaşındaki kızının Instagram’ın mesajlaşma uygulaması üzerinden taciz edildiği bir olay yer alıyordu.
