Bir çocuğun cinsel saldırıya uğradığını gösteren bir videonun 120.000’den fazla kez görüntülenmesi. Bir kullanıcının sömürülen çocuklarla ilgili içeriği takip etmesini öneren bir öneri motoru. Kullanıcılar sürekli olarak taciz edici materyal gönderiyor, tespit edildiğinde kaldırılmasında gecikmeler ve onu denetleyen kuruluşlarla sürtüşmeler.
Elon Musk, Kasım ayı sonlarında bir tweet’te “çocuk istismarını ortadan kaldırmanın 1 numaralı öncelik olduğunu” açıklamasından bu yana.
Bay Musk’ın mülkiyeti altında, Twitter’ın güvenlik başkanı Ella Irwin, önceki sahipler tarafından sitede – çoğu teknoloji platformunda olduğu gibi – yaygın olan çocuklara yönelik cinsel istismar materyalleriyle mücadele etmek için hızla hareket ettiğini söyledi. Şirket, “Twitter 2.0”ın farklı olacağının sözünü verdi.
Ancak The New York Times tarafından yapılan bir inceleme, yaygın olarak çocuk pornografisi olarak bilinen görüntülerin, yetkililerin tespit edip ortadan kaldırmanın en kolay olduğunu düşündüğü geniş çapta dolaşan materyaller de dahil olmak üzere platformda varlığını sürdürdüğünü ortaya çıkardı.
İncelemeye göre, Bay Musk Ekim ayı sonunda dizginleri eline aldıktan sonra, Twitter sorunla ilgili deneyimli personeli büyük ölçüde ortadan kaldırdı veya kaybetti ve daha önce yetkililer tarafından tespit edilen taciz edici görüntülerin yayılmasını engelleyemedi. Twitter, çabalarının anahtarı olarak kabul edilen bazı algılama yazılımları için ödeme yapmayı da durdurdu.
Bu arada, karanlık web forumlarındaki insanlar, onları izleyen bir kötüye kullanım karşıtı grubun bu forumların transkriptlerine göre, Twitter’ın tespit edilmekten kaçınarak materyali kolayca bulabilecekleri bir platform olmaya devam ettiğini tartışıyorlar.
Avustralya’nın çevrimiçi güvenlik komiseri Julie Inman Grant, “Lağım farelerinin içeri girmesine izin verirseniz, vebanın geleceğini bilirsiniz” dedi.
Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi, ABD’nin yasadışı malzemeye müdahalesini koordine eder. Twitter, Elon Musk yönetimindeki raporlarına başlangıçta daha yavaş yanıt verdi. Kredi… The New York Times için Kholood Eid
Twitter’da çalışan bağımsız bir araştırmacı, Aralık ayının başlarında Bayan Irwin ile bir Twitter sesli sohbetinde, yasa dışı içeriğin platformda yıllardır kamuya açık olduğunu ve milyonlarca kez görüntülendiğini söyledi. Ancak Bayan Irwin ve Twitter’daki diğerleri, Bay Musk yönetimindeki çabalarının sonuç verdiğini söyledi. Şirket, yeni sahipliğin ilk tam ayında, “çocukların cinsel istismarı” politikalarını ihlal ettiği için yaklaşık 300.000 hesabı askıya aldı, bu normalden yüzde 57 daha fazla.
Twitter, 404.000 hesabı askıya aldığında Ocak ayında çabaların hızlandığını söyledi. Şirket Çarşamba günü bir dizi tweet’te “Son yaklaşımımız daha agresif” dedi ve istismar amaçlı materyal arayan insanlara da baskı uyguladığını ve Aralık ayından bu yana başarılı aramaları yüzde 99 oranında azalttığını söyledi.
Bayan Irwin, bir röportajda, askıya alınanların büyük kısmının, materyali yayınlayanlardan ziyade materyalle ilgilenen veya sattığını veya dağıttığını iddia eden hesapları içerdiğini söyledi. “Daha iyi tespit edebilmemiz için gereken bazı şeyleri hala kaçırdığımızı kesinlikle biliyoruz.”
Twitter’ın çalışanları işe aldığını ve sorunla mücadele etmek için “yeni mekanizmalar” kullandığını da sözlerine ekledi. Bu konuda durmadan çalışıyoruz dedi.
Wired, NBC ve diğerleri, Twitter’ın Bay Musk yönetimindeki çocuk istismarı görüntüleriyle devam eden mücadelesini ayrıntılı olarak açıkladı. Salı günü, Illinois Demokrat Senatörü Richard J. Durbin, Adalet Bakanlığından Twitter’ın sorunu çözme konusundaki sicilini incelemesini istedi.
The Times, şirketin ilerleme iddialarını değerlendirmek için bireysel bir Twitter hesabı oluşturdu ve izlemesi yasa dışı olan gerçek görüntüleri göstermeden içeriği bulmak için platformu tarayabilen otomatik bir bilgisayar programı yazdı. Malzemeyi bulmak zor olmadı. Aslında Twitter, kullanıcı etkinliğine göre takip edilecek hesaplar öneren bir özellik olan öneri algoritmasıyla tanıtımına yardımcı oldu.
Öneriler arasında üstsüz bir çocuğun profil resmini içeren bir hesap vardı. Kanada Çocuk Koruma Merkezi’ne göre, fotoğraftaki çocuk bilinen bir cinsel istismar kurbanı.
Aynı kullanıcı, başka bir çocuğa cinsel tacizde bulunan erkeklerin videosunu “beğenen” de dahil olmak üzere diğer şüpheli hesapları takip etti. 19 Ocak’a kadar Twitter’da bir aydan fazla bir süredir bekleyen video 122.000’den fazla görüntülendi, 300’e yakın retweet aldı ve 2.600’den fazla beğeni aldı. Twitter daha sonra videoyu, Kanada merkezi şirket için işaretledikten sonra kaldırdı.
Aramanın ilk birkaç saatinde, bilgisayar programı önceden taciz edici olarak tanımlanan birkaç resim ve daha fazla satış yapmayı teklif eden hesaplar buldu. Times, gönderileri herhangi bir resim görüntülemeden işaretledi ve web adreslerini Microsoft ve Kanada merkezi tarafından yürütülen hizmetlere gönderdi.
Aralık ayı sonlarında bir hesap, fotoğraf ve videolardan oluşan indirimli bir “Noel paketi” sundu. Bu kullanıcı, yaklaşık 8 yaşından ergenliğine kadar istismara uğramış bir çocuğun kısmen gizlenmiş bir görüntüsünü tweetledi. Twitter, gönderiyi beş gün sonra kaldırdı, ancak yalnızca Kanada merkezi şirkete tekrarlanan bildirimler gönderdikten sonra.
Toplamda, bilgisayar programı, en son Perşembe günü olmak üzere, birden fazla hesapta 150’den fazla kez görünen 10 kurbanın görüntülerini buldu. Ekteki tweet’ler genellikle çocuklara tecavüz videolarının reklamını yaptı ve şifreli platformlara bağlantılar içeriyordu.
Stanford İnternet Gözlemevi’nin yöneticisi ve Facebook’un eski üst düzey güvenlik yöneticisi Alex Stamos, sonuçları endişe verici buldu. “Musk’un çocuk güvenliğine verdiği önem göz önüne alındığında, temelleri yapmamaları şaşırtıcı” dedi.
Ayrı olarak, The Times’ın bulgularını doğrulamak için Kanada merkezi, bilinen kurbanları içeren bir video dizisinin Twitter’da ne sıklıkta göründüğünü belirlemek için bir test yaptı. Analistler, 40’tan fazla hesap tarafından paylaşılan ve bazıları binlerce kez retweetlenen ve beğenilen 31 farklı video buldu. Videolar, ergenlik öncesi bir çocukla aylarca cinsel eylemlerde bulunması için internetten zorla alınan genç bir genci gösteriyordu.
Merkez ayrıca veri tabanlarındaki en müstehcen videolara karşı daha geniş bir tarama yaptı. 174.000’den fazla beğeni ve 63.000 retweet ile 260’tan fazla hit vardı.
Kanada merkezinin teknoloji direktörü Lloyd Richardson, “Minimum bir çabayla bulabildiğimiz hacim oldukça önemli,” dedi. “Sistemlerinde oturan bu tür içeriği bulmak, dışarıdan gelen kişilerin işi olmamalı.”
2019’da The Times, birçok teknoloji şirketinin platformlarında çocuk istismarını denetleme konusunda ciddi boşlukları olduğunu bildirdi. Geçtiğimiz Aralık ayında, Avustralyalı çevrimiçi güvenlik yetkilisi Bayan Inman Grant, aynı sorunların birçoğunun teknoloji şirketlerinden oluşan bir örneklemede devam ettiğini tespit eden bir denetim gerçekleştirdi.
Avustralya incelemesi Twitter’ı içermiyordu, ancak çok sayıda mevcut ve eski çalışana göre, platformun bazı zorlukları diğer teknoloji şirketlerininkine benziyor ve Bay Musk’ın gelişinden önceye dayanıyor.
2006’da kurulan Twitter’ın geçen sonbaharda çocuklara yönelik cinsel istismar videolarını taramak için daha kapsamlı bir araç kullanmaya başladığını ve yasa dışı fotoğraf ve videoları bulmaya adanmış mühendislik ekibinin sadece 10 ay önce kurulduğunu söylediler. Buna ek olarak, dört eski çalışanın söylediğine göre, şirketin güven ve güvenlik ekipleri, geçen Nisan ayında başlayan geniş çaplı bir işe alım dondurma döneminde bile onları genişletmeye devam etse de, sürekli olarak yetersiz kaldı.
Yıllar geçtikçe, şirket bazı görüntüleri bulmak ve kaldırmak için dahili araçlar geliştirdi ve ulusal merkez, sık sık şirketi raporlarının eksiksizliğinden ötürü övdü.
Platform, son aylarda, kullanıcıların çocuk istismarı içeren materyallerle karşılaştıklarında şirketi bilgilendirmelerine olanak tanıyan kötüye kullanım raporlama sisteminde de sorunlar yaşadı. (Twitter, platformunda kötü amaçlı içeriği bildirmek için bir kılavuz sunar.)
Times, Aralık ve Ocak aylarında içeriği sattığını veya takas ettiğini iddia eden birden fazla profili bildirmek için araştırma hesabını kullandı. Hesapların çoğu aktif kaldı ve hatta The Times’ın kendi hesabında izlenecek tavsiyeler olarak göründü. Şirket, bu tür önerilerin neden ortaya çıktığını çözmek için daha fazla zamana ihtiyacı olacağını söyledi.
Malzemeyi bulmak için Twitter, Thorn adlı bir insan ticareti karşıtı kuruluş tarafından oluşturulan yazılıma güvenir. İlişkiye aşina olan kişilere göre, muhtemelen maliyetleri düşürmeye yönelik daha büyük çabasının bir parçası olan Bay Musk, görevi devraldığından beri Twitter kuruluşa ödeme yapmadı. Twitter, teknolojiyi geliştirmek için Thorn ile çalışmayı da durdurdu. Diğer şirketler yazılımı kullandığından, işbirliğinin endüstri çapında faydaları oldu.
Bayan Irwin, Twitter’ın belirli satıcılarla olan işi hakkında yorum yapmayı reddetti.
Orada çalışan insanlara göre, Twitter’ın Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi ile ilişkisi de zarar gördü.
Merkezde bir yönetici olan John Shehan, Twitter’daki “yüksek ciro seviyesi” ve şirketin “güven ve güvenlik içinde durduğu ve çocuklara yönelik cinsel istismar malzemelerini platformlarından belirleme ve kaldırma konusundaki kararlılıkları” konusunda endişeli olduğunu söyledi.
Bay Musk’ın sahipliğine geçişin ardından Twitter, merkezin cinsel istismar içerikli bildirimlerine başlangıçta daha yavaş tepki verdi, merkezden alınan verilere göre bu gecikme, her yeni paylaşımla yeniden mağdur olan istismar mağdurları için büyük önem taşıyor. Twitter da diğer sosyal medya siteleri gibi merkezle iki yönlü bir ilişki içerisindedir. Site, yasa dışı içerikten haberdar edildiğinde merkeze (daha sonra kolluk kuvvetlerine bildirimde bulunabilir) bildirimde bulunur. Merkez, Twitter’da yasa dışı içerik olduğunu öğrendiğinde, siteyi uyarır, böylece resimler ve hesaplar kaldırılabilir.
Geçen yılın sonlarında, merkezin daha az uyarı göndermesine rağmen, şirketin yanıt süresi, bir önceki yılın aynı dönemine göre iki kattan fazlaydı. Aralık 2021’de Twitter’ın 98 bildirime yanıt vermesi ortalama 1,6 gün sürdü; Geçen Aralık ayında, Bay Musk şirketi devraldıktan sonra, 55’e yanıt vermek 3,5 gün sürdü. Ocak ayına kadar, büyük ölçüde iyileşti ve 82’ye yanıt vermek 1,3 gün sürdü.
O ülkede aynı işlevi yerine getiren Kanada merkezi, bir hafta kadar uzun gecikmeler gördüğünü söyledi. Bir örnekte, Kanada merkezi 6 Ocak’ta 8 ila 10 yaşlarındaki çıplak bir kızın istismarını gösteren bir video tespit etti. Örgüt, Twitter’ın videoyu kaldırmasından önce yaklaşık bir hafta boyunca günlük bildirimler gönderdiğini söyledi.
Ek olarak, Twitter ve ABD ulusal merkezi, Twitter’ın yasa dışı materyalleri doğrudan yayınlamadan sattığını iddia eden hesapları şikayet etme yükümlülüğü konusunda aynı fikirde değil gibi görünüyor.
Bayan Irwin, şirketin askıya aldığı yüzbinlerce hesabı ulusal merkeze bildirmediğini, çünkü kuralların “kişinin bilerek yasa dışı görüntüleri ilettiğine dair yüksek güvene sahip olmalarını” gerektirdiğini ve bu hesapların bu eşiği karşılamadığını söyledi Bayan Irwin. söz konusu.
Ulusal merkezden Bay Shehan, kuralların yorumlanmasına itiraz etti ve teknoloji şirketlerinin yasal olarak, yalnızca materyali sattıklarını veya talep ettiklerini iddia etseler bile kullanıcıları bildirmeleri gerektiğini belirtti. Şimdiye kadar, ulusal merkezin verileri, Twitter’ın askıya aldığı hesapların küçük bir kısmı olan aylık yaklaşık 8.000 şikayette bulunduğunu gösteriyor.
Avustralyalı düzenleyici Bayan Inman Grant, şirketin yerel temsilcileriyle iletişim kuramadığını çünkü Bay Musk’ın görevi devralmasından bu yana ajansının Avustralya’daki bağlantılarının kesildiğini veya kovulduğunu söyledi. Personel azaltımlarının, sömürücü görüntülerde daha fazla insan ticaretine yol açabileceğinden korkuyordu.
Daha önce hem Twitter hem de Microsoft’ta güvenlik yöneticisi olan Bayan Inman Grant, “Bu yerel kişiler, zamana duyarlı konuların ele alınmasında hayati bir rol oynuyor” dedi.
Bayan Irwin, şirketin Avustralyalı ajansla iletişim halinde olmaya devam ettiğini söyledi ve daha genel olarak, Twitter’ın “çok daha iyi hale geldiğine” güvendiğini ve önündeki zorlukları kabul ettiğini söyledi.
Bayan Irwin, “Hiçbir şekilde sırtımızı sıvazlayıp ‘Dostum, bu işi başardık’ demiyoruz” dedi.
Kanadalı merkezin bulduğu gönderilere göre, suçlular Twitter’da materyalin nasıl bulunacağına dair karanlık ağ forumlarında ipuçları vermeye devam ediyor.
12 Ocak’ta bir kullanıcı, kendilerinin müstehcen kayıtlarını göndermeleri için kandırılan genç erkeklerin videolarını satan yüzlerce “yasal” Twitter hesabını takip ettiğini açıkladı. Başka bir kullanıcı, Twitter’ı her tür cinsel istismar videosunu izlemek için kolay bir yer olarak nitelendirdi. Kullanıcı, “İnsanlar çok şey paylaşıyor” diye yazdı.
Ryan Mac ve Chang Che raporlamaya katkıda bulundu.
