Svetovni gospodarski forum (WEF) in njegovi partnerji trdijo, da si prizadevajo za “digitalno varnost”, vendar nam je WSJ (Wall Street Journal) pravkar pokazal, da je partnerka Meta svoje stranke usmerjala na spletne strani s spolnimi zlorabami otrok

Ne samo, da je partner velik problem (v članku WSJ bom navedla celotno besedilo), “digitalna varnost” je tudi evfemizem za cenzuro

Vpliv zagotavljanja digitalne varnosti – po podatkih Svetovnega gospodarskega foruma

Težave z digitalno identiteto in zdravstvenim potnim listom so seveda naslednje:

1. dodatne funkcije se bodo lahko hitro dodajale, zaradi česar bodo vsi podatki o vašem življenju in vse transakcije v povezani mreži
2. z lahkoto vam ukradejo spletne podatke (zlasti zdravstvene in bančne podatke)
3. vaš denar se lahko po želji izklopi ali obdavči
4. vaše gibanje in nakupe je mogoče omejiti
5. vaše prijateljsko omrežje in sodelavci bodo dokumentirani in zasledovani
6. vaša družina lahko trpi zaradi vedenja, ki nadzornikom ni všeč. Na Kitajskem je od vaše socialne bonitete odvisno, ali lahko najamete ali kupite nepremičnino ali pa ali lahko vaši otroci obiskujejo dobro šolo, kot mi je bilo rečeno.

Naj se razumemo: gre za človekove pravice. Dobra šala.

Boj proti škodljivim spletnim vsebinam je zapleten problem. Boj proti spolni zlorabi in izkoriščanju otrok, terorizmu in sovražnemu govoru, dezinformacijam ter vsebinam, povezanim s samo-poškodovanjem in samomorom, je stalen izziv.

Ker so na voljo nove tehnologije, je treba še naprej zagotavljati ravnovesje med varnostjo in zasebnostjo v digitalnem svetu ter svobodo izražanja.

Zagotavljanje varnih in zanesljivih spletnih izkušenj je bistvenega pomena tako za globalna podjetja, civilne družbene skupine kot posameznike. Globalna koalicija Svetovnega gospodarskega foruma za digitalno varnost združuje raznoliko skupino voditeljev, da bi pospešila sodelovanje med javnim in zasebnim sektorjem pri obravnavi škodljivih vsebin in vedenja na spletu.

Člani koalicije so razvili Globalna načela za digitalno varnost, ki opredeljujejo, kako je treba človekove pravice uresničevati v digitalnem svetu. Delovno skupino koalicije sestavljajo predstavniki podjetij Microsoft, WeProtect Global Alliance, Meta, Amazon, Google, OHCHR (Urad visokega komisarja ZN za človekove pravice), Ofcom UK in Global Partners Digital (Globalni digitalni partnerji).

Načela so bila oblikovana na podlagi posvetovanj z vladami in regulativnimi organi, glavnimi družbenimi mediji in tehnološkimi platformami, podjetji za varnostno tehnologijo ter predstavniki civilne družbe in akademske sfere.

Načela bodo služila kot vodilo vsem deležnikom v digitalnem ekosistemu za spodbujanje digitalne varnosti na ravni politike, industrije in družbe. Za zagotovitev dejanskega učinka je potrebno sodelovanje med vladami, podjetji ter udeleženci civilnih in družbenih pobud.

Če povzamemo, načela vključujejo:

• Vsi podporniki morajo sodelovati pri vzpostavljanju varnega, zaupanja vrednega in vključujočega spletnega okolja. [Vključuje vse o vas.-Nass]. Politika in sprejemanje odločitev bi morala temeljiti na dokazih, spoznanjih in različnih perspektivah. Pomembna je preglednost, spodbujati pa je treba tudi inovacije.
• Podporne oblasti bi morale razlikovati med nezakonito vsebino in vsebino, ki je zakonita, vendar je lahko škodljiva, ter ustrezno razlikovati vse regulativne ukrepe in zagotoviti, da zakonodaja in pravilniki spoštujejo in varujejo vse pravice uporabnikov. Podpirati morajo žrtve in osebe, ki so preživele zlorabo ali škodo.
• Podporni ponudniki spletnih storitev bi se morali zavezati k spoštovanju odgovornosti za človekove pravice in oblikovati pravilnike, ki bodo to zagotavljale, zagotoviti, da je varnost prednostna naloga v celotnem poslovanju in da je standardno vključena pri oblikovanju funkcij, ter sodelovati z drugimi ponudniki spletnih storitev. [Kaj je sploh “varnost”?]

Načela tudi priznavajo, da imajo civilne družbene skupine in nevladne organizacije ključno vlogo pri pospeševanju digitalne varnosti in spodbujanju človekovih pravic; zagotavljajo dragocen vpogled v vpliv spletne varnosti – in spletne svobode – na skupnosti in posameznike.

“Pospeševanje digitalne varnosti je ključnega pomena za to, da se ljudem omogoči, da kar najbolje izkoristijo digitalni svet. Ta načela so bila oblikovana kot izvedljiv, pozitiven korak k ustvarjanju varnejše digitalne izkušnje za vse, Microsoft pa ostaja zavezan iskanju rešitev, ki bodo dosegle ta cilj in spoštovale temeljne človekove pravice.”

-Courtney Gregoire, glavna odgovorna oseba za digitalno varnost, Microsoft

Načela upoštevajo in skušajo dopolniti obstoječa načela, kot so prostovoljna načela za boj proti spolni zlorabi in izkoriščanju otrok na spletu, poziv iz Christchurcha za odpravo terorističnih in nasilnih ekstremističnih vsebin na spletu, načela iz Santa Clare, načela avstralskega komisarja za e-varnost Safety by Design, okvir najboljših praks Partnerstva za digitalno zaupanje in varnost (Digital Trust & Safety Partnership) in številna druga.

“Vlade, zasebni sektor in civilna družba imajo pomembno vlogo pri preprečevanju zlorab in izkoriščanja na spletu, zlasti pri zaščiti najranljivejših v družbi. Ta novi sklop načel zagotavlja pomemben okvir za učinkovitejše odzivanje na škodo, ki jo povzroča splet, vključno z našim lastnim delom za odpravo spolne zlorabe otrok na spletu.”

– Iain Drennan, izvršni direktor svetovne zveze WeProtect

Meta (novo ime za Facebook) je bila glavni partner WEF (zgoraj) pri spodbujanju digitalne varnosti. Toda namesto tega Meta, ki je lastnica Instagrama, na svoji platformi omogoča pedofilske mreže, kar je razvidno iz podrobne raziskave osebja Stanford Internet Observatory (in ti cenzorji bi morali vedeti) in profesorja iz U Mass (Univerza Massachusetts) ter strokovnjakov za digitalno okolje, kot je Alex Stamos, ki je ustanovil in vodi stanfordski program. Časopis Wall Street Journal se je zelo poglobil v zadevo in Meti ne pušča prostora, da bi se iz tega izmaknila. Ker je WSJ za plačljivim zidom, bom spodaj objavila celoten članek s 7. junija.

https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189

Instagram, priljubljeno družabno omrežje, ki je v lasti podjetja Meta Platforms, pomaga povezovati in promovirati obsežno mrežo računov, ki se odkrito posvečajo naročanju in kupovanju mladoletnih spolnih vsebini, kar je razvidno iz preiskav časopisa The Wall Street Journal in raziskovalcev z univerze Stanford in univerze Massachusetts Amherst.

Pedofili že dolgo uporabljajo internet, vendar za razliko od forumov in storitev za prenos datotek, ki so namenjeni ljudem, ki jih zanimajo nedovoljene vsebine, Instagram teh dejavnosti ne samo da gosti, njegovi algoritmi jih celo spodbujajo. Instagram povezuje pedofile in jih usmerja k prodajalcem vsebin prek priporočilnih sistemov, ki so odlični pri povezovanju tistih, ki imajo enake nišne interese, so ugotovili tako v reviji Journal kot tudi akademski raziskovalci.

Čeprav so za večino na platformi nevidni, so spolno usmerjeni računi na Instagramu brezsramni glede svojih interesov. Raziskovalci so ugotovili, da Instagram ljudem omogoča iskanje eksplicitnih oznak (hashtagov), kot sta #pedowhore (pedo-kurba) in #preteensex (pred najstniški spolni odnos), in jih povezuje z računi, ki te izraze uporabljajo za oglaševanje vsebine za spolne odnose z otroki, namenjenega prodaji. Takšni računi pogosto trdijo, da jih vodijo otroci sami, in uporabljajo odkrito seksualne naslove, ki vključujejo besede, kot so “mala kurba zate”.

Računi na Instagramu, ki ponujajo prodajo nedovoljenega spolnega gradiva, ga običajno ne objavljajo odkrito, temveč objavljajo “menije” vsebine. Nekateri računi vabijo kupce, naj naročijo določena dejanja. Nekateri meniji vključujejo cene za videoposnetke otrok, ki se samo-poškodujejo, in “podobe mladoletnikov, ki izvajajo spolna dejanja z živalmi”, so ugotovili raziskovalci iz Stanford Internet Observatorija. Ob ustrezni ceni so otroci na voljo za osebna “srečanja”. Promocija vsebin o spolnosti mladoletnih oseb krši pravila, ki jih je določila Meta, pa tudi zvezno zakonodajo.

Meta je v odgovoru na vprašanja časopisa Journal priznala težave v svojih dejavnostih izvrševanja in povedala, da je ustanovila notranjo delovno skupino, ki bo obravnavala izpostavljena vprašanja. “Izkoriščanje otrok je grozljiv zločin,” je dejalo podjetje in dodalo: “Nenehno raziskujemo načine, kako se aktivno braniti pred takšnim vedenjem.”

Meta je dejala, da je v zadnjih dveh letih odstranila 27 pedofilskih omrežij in jih načrtuje še več. Platforma je sporočila, da je od prejema poizvedb časopisa Journal blokirala na tisoče hashtagov, ki seksualizirajo otroke, nekatere z več milijoni objav, in omejila svoje sisteme, da uporabnikom ne priporočajo iskanja izrazov, za katere je znano, da so povezani s spolnimi zlorabami. Povedala je tudi, da si prizadeva preprečiti, da bi njeni sistemi priporočali, da se potencialno pedofilni odrasli povežejo med seboj ali si medsebojno izmenjavajo vsebino.

Alex Stamos, vodja centra Stanford Internet Observatory in do leta 2018 glavni varnostni uradnik podjetja Meta, je dejal, da bo za nadzor tudi zelo očitnih zlorab verjetno potreben dolgotrajen trud.

“To, da je ekipa treh akademikov z omejenim dostopom lahko našla tako veliko omrežje, bi moralo v podjetju Meta sprožiti alarm,” je dejal in opozoril, da ima podjetje veliko bolj učinkovita orodja za kartiranje svojega pedofilskega omrežja kot zunanji uporabniki. “Upam, da bo podjetje ponovno investiralo v žive raziskovalce,” je dodal.

Zaradi tehničnih in pravnih ovir je težko natančno ugotoviti celoten obseg omrežja, ki ga ne bi mogel izmeriti nihče zunaj Mete.

Ker so zakoni o vsebinah, povezanih s spolnimi odnosi z otroki, izredno obsežni, je preiskovanje celo odprtega spodbujanja teh vsebin na javni platformi pravno občutljivo.

Časopis se je pri svojem poročanju posvetoval z akademskimi strokovnjaki za spletno varnost otrok. Stanfordski internetni observatorij, oddelek univerzitetnega centra za kibernetsko politiko, ki se ukvarja z zlorabami družbenih medijev, je pripravil neodvisno kvantitativno analizo funkcij Instagrama, ki uporabnikom pomagajo pri povezovanju in iskanju vsebin.

Časopis se je obrnil tudi na U-Massov laboratorij Rescue Lab, ki je ocenil, kako se pedofili na Instagramu vključujejo v širši svet spletnega izkoriščanja otrok. Oba subjekta sta z uporabo različnih metod lahko hitro prepoznala obsežne skupnosti, ki spodbujajo kriminalno spolno zlorabo.

Testni računi, ki so jih vzpostavili raziskovalci in so si ogledali en sam račun v omrežju, so takoj dobili “predlagano za vas” priporočila domnevnih prodajalcev in kupcev otroških spolnih vsebin ter računov, ki so se povezovali s spletnimi mesti za trgovanje z vsebinami zunaj platforme. Že nekaj teh priporočil je bilo dovolj, da je bil testni račun preplavljen z vsebino, ki seksualizira otroke.

Stanfordski center za opazovanje interneta je s pomočjo hashtagov, povezanih s spolnostjo mladoletnikov, našel 405 prodajalcev gradiva, ki so ga raziskovalci označili kot “samonastalo” gradivo za spolno zlorabo otrok – ali računov, ki so jih domnevno vodili sami otroci, pri čemer so nekateri trdili, da so stari komaj 12 let. Po podatkih, zbranih s pomočjo programske opreme za kartiranje omrežij Maltego, je imelo 112 teh računov skupaj 22 000 edinstvenih sledilcev.

Ustvarjalci in kupci mladoletnih spolnih vsebin so le delček večjega ekosistema, namenjenega seksualizirani vsebini za otroke. Drugi računi v pedofilski skupnosti na Instagramu zbirajo meme, ki podpirajo pedofilijo, ali razpravljajo o svojem dostopu do otrok. Sedanji in nekdanji zaposleni v družbi Meta, ki so sodelovali pri pobudah za varnost otrok na Instagramu, ocenjujejo, da je število računov, ki obstajajo predvsem za spremljanje takšnih vsebin, več sto tisoč, če ne celo več milijonov.

Tiskovni predstavnik podjetja Meta je povedal, da si podjetje aktivno prizadeva odstraniti takšne uporabnike in da je samo januarja odstranilo 490 000 računov zaradi kršenja pravil o varnosti otrok.

“Instagram je vstopna rampa za kraje na internetu, kjer je spolna zloraba otrok bolj eksplicitna,” je dejal Brian Levine, direktor laboratorija U-Mass Rescue Lab, ki raziskuje spletno viktimizacijo otrok in izdeluje forenzična orodja za boj proti njej. Levine je avtor poročila o spletnem izkoriščanju otrok iz leta 2022 za Narodni inštitut za pravosodje, raziskovalno enoto pravosodnega ministrstva.

Instagram, ki ima po ocenah več kot 1,3 milijard uporabnikov, je še posebej priljubljen med najstniki. Stanfordski raziskovalci so nekaj podobnih dejavnosti spolnega izkoriščanja našli tudi na drugih, manjših družabnih platformah, vendar so dejali, da je problem na Instagramu še posebej pereč. “Zdi se, da je najpomembnejša platforma za te mreže kupcev in prodajalcev Instagram,” so zapisali v poročilu, ki bo objavljeno 7. junija.

Instagram je dejal, da njegova notranja statistika kaže, da uporabniki vidijo izkoriščanje otrok v manj kot eni od 10 tisoč ogledanih objav.

Prizadevanja platform družbenih medijev in organov kazenskega pregona za boj proti širjenju otroške pornografije na spletu se osredotočajo predvsem na lov za potrjenimi slikami in videoposnetki, znanimi kot gradivo o spolni zlorabi otrok ali CSAM, za katere je že znano, da so v obtoku. Narodni center za pogrešane in izkoriščane otroke, ameriška neprofitna organizacija, ki sodeluje z organi pregona, vzdržuje zbirko digitalnih odtisov takšnih slik in videoposnetkov ter platformo za izmenjavo teh podatkov med internetnimi podjetji.

Algoritmi internetnih podjetij preverjajo digitalne odtise slik, objavljenih na njihovih platformah, glede na ta seznam in centru poročajo, kadar jih odkrijejo, kot zahteva ameriška zvezna zakonodaja. Leta 2022 je center prejel 31,9 milijonov poročil o otroški pornografiji, večinoma od internetnih podjetij, kar je 47 % več kot dve leti prej.

Meta z več kot 3 milijardami uporabnikov v svojih aplikacijah, med katerimi so tudi Instagram, Facebook in WhatsApp, lahko zazna tovrstne znane slike, če niso šifrirane. Kar 85 % prijav otroške pornografije, ki so bile predložene centru, je vklučevalo podjetje Meta, vključno s približno 5 milijoni prijav iz Instagrama.

Metin avtomatiziran pregled obstoječih vsebin, povezanih z izkoriščanjem otrok, ne more odkriti novih slik ali prizadevanj za oglaševanje njihove prodaje. Za preprečevanje in odkrivanje takšnih dejavnosti ni potrebno le pregledovanje uporabniških poročil, temveč tudi sledenje in razbijanje pedofilskih mrež, pravijo sedanji in nekdanji uslužbenci ter raziskovalci s Stanforda. Cilj je otežiti medsebojno povezovanje takim uporabnikom, iskanje vsebine in pridobivanja žrtev.

Takšno delo je ključnega pomena, saj organi pregona nimajo dovolj sredstev, da bi preiskali več kot le majhen del nasvetov, ki jih prejme NCMEC, je dejal Levine z U-Mass. To pomeni, da so platforme v prvi vrsti odgovorne za preprečevanje oblikovanja skupnosti, ki bi normalizirala spolno zlorabo otrok.

Meta ima pri teh prizadevanjih večje težave kot druge platforme, tako zaradi šibkega izvrševanja kot tudi zaradi oblikovnih značilnosti, ki spodbujajo odkrivanje tako zakonitega kot nezakonitega gradiva, je ugotovil Stanford.

Stanfordska ekipa je na Twitterju našla 128 računov, ki ponujajo prodajo gradiva o spolni zlorabi otrok, kar je manj kot tretjina števila, ki so ga našli na Instagramu, ki ima veliko večjo skupno bazo uporabnikov kot Twitter. Ekipa je ugotovila, da Twitter takšnih računov ni priporočal v enaki meri kot Instagram in jih je veliko hitreje odstranil.

Med drugimi platformami, priljubljenimi med mladimi, se Snapchat uporablja predvsem za neposredno sporočanje, zato ne pomaga pri ustvarjanju omrežij. Platforma TikTok pa je ena od tistih, kjer “se zdi, da se tovrstne vsebine ne širijo”, je zapisano v poročilu Stanforda.

Twitter se ni odzval na prošnjo za komentar. TikTok in Snapchat nista želela komentirati.

David Thiel, glavni tehnolog pri Stanford Internet Observatory, je dejal: “Instagramova težava se kaže v funkcijah za odkrivanje vsebin, načinih priporočanja tem in v tem, koliko se platforma zanaša na iskanje in povezave med računi.” Thiel, ki se je v podjetju Meta prej ukvarjal z varnostjo in zaščito, je dodal: “Pri tako intenzivni rasti je treba vzpostaviti varovalne ograje, da je nekaj še vedno nominalno varno, Instagram pa tega ni storil. ”

Platforma ima težave z nadzorom osnovne tehnologije: ključnih besed. Hashtagi so osrednji del odkrivanja vsebine na Instagramu, saj uporabnikom omogočajo označevanje in iskanje objav, ki zanimajo določeno skupnost – od širših tem, kot sta #fashion (moda) ali #nba, do ožjih, kot sta #embroidery (vezenje) ali #spelunking (jamarstvo).

Posnetek zaslona, ki ga je posnel Stanford Internet Observatory, prikazuje opozorilo in možnost klika pri iskanju hashtaga, povezanega s pedofilijo, na Instagramu. Fotografija: Stanford Internet Observatory.

Tudi pedofili imajo svoje izbrane hashtage. Iskalni izrazi, kot so #pedobait (pedo-vaba) in različice #mnsfw (“minor not safe for work – mlajša oseba ni varna za delo”), so bili uporabljeni za označevanje na tisoče objav, namenjenih oglaševanju spolnih vsebin z otroki, zaradi česar so jih kupci zlahka našli, so ugotovili akademski raziskovalci. Po poizvedbah revije Journal je Meta sporočila, da je v postopku prepovedi takšnih izrazov.

V številnih primerih je Instagram uporabnikom dovolil iskanje izrazov, za katere njegovi algoritmi vedo, da so lahko povezani z nezakonitim gradivom. V takšnih primerih je okence za uporabnike opozorilo, da “Rezultati lahko vsebujejo slike spolne zlorabe otrok”, in opozorilo, da proizvodnja in uporaba takšnega gradiva povzroča “izjemno škodo” otrokom. Okence je uporabnikom ponujalo dve možnosti: “Preglejte izvor” in “Vseeno si oglejte rezultate”

Kot odgovor na vprašanja časopisa Journal je Instagram odstranil možnost, da si uporabniki lahko ogledajo rezultate iskanja za izraze, ki bi lahko prikazal nezakonite slike. Podjetje ni želelo povedati, zakaj je to možnost ponudilo.

Pedofilni računi na Instagramu mešajo predrznost s površnimi prizadevanji za prikrivanje svojih dejavnosti, so ugotovili raziskovalci. Nekateri emojiji delujejo kot nekakšna koda, na primer slika zemljevida – kratica za “osebo, ki privlači mladoletnike” – ali slika “sirove pice”, ki si deli začetnice z “otroško pornografijo”, navaja Levine z U-Mass. Mnogi se razglašajo za “ljubitelje majhnih stvari v življenju”.

Računi se označujejo kot “prodajalec” ali “s3ller”, številni pa v svojih življenjepisih navajajo prednostno obliko plačila. Ti računi prodajalcev pogosto sporočajo domnevno starost otroka z navedbo, da je “na 14. poglavju” ali “star 31 let”, čemur sledi emotikon obrnjene puščice.

Nekateri računi so kazali na trgovino s spolnimi storitvami, je dejal Levine z UMass, na primer eden, ki prikazuje najstnico z napisom WHORE (kurba), narisanim čez njen obraz.

Nekateri uporabniki, ki trdijo, da prodajajo spolne vsebine lastne produkcije, pravijo, da so “brez obraza” – ponujajo slike samo od vratu navzdol – zaradi preteklih izkušenj, ko so jih stranke zasledovale ali izsiljevale. Drugi tvegajo in zaračunavajo premijo za slike in videoposnetke, ki bi lahko razkrili njihovo identiteto, če bi pokazali njihov obraz.

Številni računi prikazujejo uporabnike z brazgotinami po rezanju na notranji strani rok ali stegen, številni pa navajajo spolno zlorabo v preteklosti.

Že bežen stik z računom v Instagramovi pedofilski skupnosti lahko sproži, da platforma začne uporabnikom priporočati, naj se ji pridružijo.

Sarah Adams, kanadska mati dveh otrok, si je na Instagramu ustvarila občinstvo, ki razpravlja o izkoriščanju otrok in nevarnostih pretiranega deljenja na družbenih omrežjih. Glede na njeno osredotočenost ji sledilci Adamsove včasih pošiljajo zaskrbljujoče stvari, na katere so naleteli na platformi. Februarja je povedala, da ji je eden od njih poslal sporočilo z računom, označenim z izrazom “incestni malčki”

Adamsova je dejala, da je do računa – zbirke memejev, ki podpirajo incest, z več kot 10 000 sledilci – dostopala le nekaj sekund, kolikor je trajalo, da je račun prijavila Instagramu, nato pa je poskušala pozabiti nanj. Toda v naslednjih dneh je začela dobivati sporočila zgroženih staršev. Ko so si ogledali Adamsov profil na Instagramu, so povedali, da so jim zaradi Adamsovega stika z računom priporočili “incestne malčke”.

Tiskovni predstavnik Mete je dejal, da “incestni malčki” kršijo pravila in da se je Instagram zmotil pri zatiranju le-teh. Podjetje je sporočilo, da namerava takšna neprimerna priporočila obravnavati v okviru svoje nove delovne skupine za varnost otrok.

Tako kot pri večini platform družbenih medijev jedro Instagramovih priporočil temelji na vedenjskih vzorcih in ne na usklajevanju uporabnikovih interesov z določenimi temami. Ta pristop je učinkovit pri povečevanju ustreznosti priporočil, najbolj zanesljivo pa deluje pri skupnostih, ki si delijo ozek nabor interesov.

Teoretično bi morala ista ozkost pedofilske skupnosti na Instagramu omogočiti, da bi Instagram lažje popisal to omrežje in sprejel ukrepe za boj proti njemu. Dokumenti, ki jih je pred tem pregledal časnik, kažejo, da je Meta v preteklosti že opravila tovrstna dela, da bi zatrla omrežja računov, ki so po njenem mnenju škodljiva, na primer z računi, ki so spodbujali delegitimizacijo volitev v ZDA po nemirih na Kapitolu 6. januarja.

Tako kot druge platforme tudi Instagram pravi, da se pri odkrivanju računov, ki kršijo pravila, obrača na svoje uporabnike. Vendar ta prizadevanja niso bila vedno učinkovita.

Glede na pregled več deset poročil, ki so jih v zadnjem letu vložili številni zagovorniki varnosti otrok, so včasih uporabniška poročila o goloti, v kateri je bil udeležen otrok, ostala brez odgovora več mesecev.

V začetku tega leta je aktivist za boj proti pedofiliji odkril račun na Instagramu, za katerega je trdil, da pripada deklici, ki prodaja vsebine, povezane z mladoletnicami, vključno z objavo: “Ta najstnica je pripravljena na vas perverzneže.” Ko je aktivist prijavil račun, se je Instagram odzval z avtomatskim sporočilom, v katerem je pisalo: “Zaradi velikega števila prejetih prijav naša ekipa ni mogla pregledati te objave.”

Ko je isti aktivist prijavil še eno objavo, na kateri je bilo pomanjkljivo oblečeno mlado dekle z grafično seksualnim napisom, je Instagram odgovoril: “Naša ekipa za pregled je ugotovila, da objava [računa] ni v nasprotju z našimi družbenimi smernicami.” V odgovoru je bilo uporabniku predlagano, naj račun skrije, da ne bi videl njegove vsebine.

Tiskovni predstavnik podjetja Meta je priznal, da je podjetje Meta prejelo prijave, vendar ni ukrepalo v zvezi z njimi. Pri pregledu, kako podjetje obravnava prijave o spolnih zlorabah otrok, je bilo ugotovljeno, da zaradi napake v programski opremi velik del uporabniških prijav ni bil obdelan in da moderatorsko osebje podjetja ni ustrezno izvajalo pravil platforme, je dejal tiskovni predstavnik. Podjetje je sporočilo, da je napako v sistemu za poročanje že odpravilo in da moderatorjem vsebin zagotavlja novo usposabljanje.

Tudi ko Instagram odstrani račune, ki prodajajo vsebine, ki niso povezane s spolnostjo, ti ne ostanejo vedno odstranjeni.

V skladu z internimi smernicami platforme se kazni zaradi kršenja standardov skupnosti običajno naložijo računom, ne pa uporabnikom ali napravam. Ker Instagram uporabnikom omogoča, da imajo več povezanih računov, sistem omogoča, da se zlahka izognejo smiselnemu odstranitvi. Uporabniki v svojih biografijah redno navajajo podatke “rezervnih” računov, kar jim omogoča, da preprosto nadaljujejo z objavljanjem za isti nabor sledilcev, če jih Instagram odstrani.

V nekaterih primerih Instagramovi sistemi priporočil neposredno spodkopavajo prizadevanja lastnega varnostnega osebja. Ko se je podjetje odločilo, da bo zatrlo povezave iz določene šifrirane storitve za prenos datotek, ki je znana po prenašanju vsebin s spolnimi odnosi z otroki, je Instagram blokiral iskanje s tem naslovom.

Instagramovi predlogi hashtagov, ki jih poganja umetna inteligenca, tega sporočila niso razumeli. Kljub temu, da je zavrnila prikaz rezultatov za ime storitve, je funkcija samodejnega izpolnjevanja platforme uporabnikom priporočila, naj poskusijo različice imena z besedama “boys” in “CP”, dodanima na koncu.

Podjetje je med odgovorom na poizvedbe časopisa Journal poskušalo onemogočiti te hashtage. Toda v nekaj dneh je Instagram znova priporočal nove različice imena storitve, ki so prav tako vodile do računov, ki so prodajali domnevne vsebine o mladoletnih osebah.

Potem ko je podjetje najprej pregledalo račune, na katere sta ga opozorila Stanford in Journal, je Levine z U-MASS-a preveril nekaj preostalih računov prodajalcev mladoletnih vsebin na Instagramu. Tako kot prej je Instagram ob ogledu celo enega od njih priporočil nove račune. Instagramovi predlogi so pomagali obnoviti omrežje, ki ga je varnostno osebje platforme skušalo razgraditi.

Tiskovni predstavnik Mete je dejal, da so njeni sistemi za preprečevanje takšnih priporočil trenutno v izgradnji. Levine je vlogo Instagrama pri spodbujanju pedofilskih vsebin in računov označil za nesprejemljivo.

“Potegnite zasilno zavoro,” je dejal. “Ali so gospodarske koristi vredne škode, ki jo utrpijo ti otroci?”

Pišite Jeffu Horwitzu na jeff.horwitz@wsj.com in Katherine Blunt na katherine.blunt@wsj.com

Prvotno objavljeno v Merylinem glasilu COVID

Suggest a correction