Instagram je formirao radnu skupinu za rješavanje optužbi da su njegovi algoritmi omogućili povezivanje pedofila i seksualnog sadržaja za maloljetnike.
Nedavna istraga The Wall Street Journala i istraživača sa Sveučilišta Stanford i Sveučilišta Massachusetts Amherst otkrila je da je Instagramov sustav preporuka povezivao pojedince zainteresirane za nezakonit materijal s prodavačima takvog sadržaja.
Istraga je otkrila da je Instagram dopuštao korisnicima da pretražuju hashtagove poput “#pedowh**e” i “#preteensex”, povezujući ih s računima koji promiču materijal o dječjem seksu. Međutim, za te hashtagove sada ne postoje nikakvi rezultati.
Neki od tih računa također su prodavali videozapise koji prikazuju djecu kako se ozljeđuju ili upuštaju u seksualne odnose sa životinjama. Osim toga, djeca su bila ponuđena na “druženja” po određenoj cijeni.
Distribucija ili proizvodnja dječje pornografije nezakonita je prema zakonima većine država što nosi stroge kazne za počinitelje.
Kao odgovor na optužbe, glasnogovornik Mete, koja je vlasnik Instagrama, osudio je iskorištavanje djece kao “užasan zločin” i izjavio da tvrtka radi na tome da ga spriječi na svojim platformama i podupire kazneni progon uključenih kriminalaca.
Meta ima stroga pravila protiv zlostavljanja djece
Meta je izvijestila da su između 2020. i 2022. demontirali 27 zlostavljačkih mreža i deaktivirali više od 490.000 računa u siječnju 2023. zbog kršenja njihovih pravila o sigurnosti djece.
Tvrtka ima stroga pravila protiv zlostavljanja djece, golotinje i iskorištavanja, uključujući materijale o seksualnom zlostavljanju djece (CSAM) i neprikladne interakcije s djecom.
Kako bi se pozabavila tvrdnjama, Meta je uspostavila internu radnu skupinu i implementirala mjere kao što je rješavanje tehničkih problema kako bi se osiguralo da korisnička izvješća stignu do recenzenata sadržaja, pružanje ažuriranih smjernica recenzentima sadržaja za lakše identificiranje, uklanjanje predatorskih računa i ograničavanje tisuća pojmova za pretraživanje i hashtagova na Instagramu.
Glasnogovornik Mete pojasnio je da se materijali o seksualnom zlostavljanju djece ne dijele otvoreno na njihovim platformama, već računi koji ga prodaju često povezuju na stranice za trgovanje sadržajem izvan platforme.
Meta zapošljava stručnjake s iskustvom u provođenju zakona i surađuje sa stručnjacima i organizacijama za sigurnost djece kako bi identificirali i eliminirali te mreže.
Nekoliko desetaka tisuća profila je blokirano
Između 27. svibnja i početka 2. lipnja Meta je automatski blokirala više od 29.000 profila zbog kršenja Instagramovih pravila o sigurnosti djece. Međutim, Instagram je na popisu glavnih sudionika seksualnog iskorištavanja Nacionalnog centra za seksualno iskorištavanje za 2023. Dirty Dozen.
Potpredsjednica NCOSE-a Haley McNamara priznala je akcije Instagrama za uklanjanje pedofilskih mreža, ali je naglasila potrebu za proaktivnim mjerama za sprječavanje daljnjih incidenata.
McNamara je predložila implementaciju tehnologije za skeniranje i blokiranje seksualno eksplicitnog sadržaja, zabranu računa, hashtagova, komentara i sadržaja koji seksualizira maloljetnike, ograničavanje pristupa odraslih korisnika maloljetnicima na popisima predloženih korisnika ili stranicama za otkrivanje osoba te uklanjanje ili ograničavanje visokorizičnih značajki za mlade tinejdžere.
