WEF a jeho partneři tvrdí, že se snaží zajistit „digitální bezpečnost“ – deník WSJ nám však právě ukázal, že partnerská společnost Meta směruje své klienty na stránky se sexuálním zneužíváním dětí

Nejenže je tento partner obrovským problémem (poskytnu celý text článku deníku Wall Street Journal), ale „digitální bezpečnost“ je také eufemismem pro cenzuru

Dopad poskytování digitální bezpečnosti – podle Světového ekonomického fóra (WEF)

Problémy s digitální identitou a zdravotním pasem samozřejmě jsou:

1. že budou rychle přibývat další funkce, čímž se váš život a všechny transakce ocitnou v jedné propojené síti
2. že vaše online údaje mohou být odcizeny (zejména vaše zdravotní a bankovní údaje)
3. že vaše peníze mohou být libovolně vypnuty nebo zdaněny
4. váš pohyb a nákupy mohou být omezeny
5. váš okruh přátel a spolupracovníci budou zaznamenáni a sledováni
6. vaše rodina může být nucena trpět za chování, které se kontrolorům nelíbí. V Číně prý vaše sociální kreditní skóre určuje, zda si můžete pronajmout nebo koupit nemovitost nebo zda vaše děti mohou chodit do dobré školy.

Ale abychom to udělali přijatelné: jde přece o lidská práva. Mrky, mrky ;-).

Boj proti škodlivému obsahu na internetu představuje složitý problém. Boj proti sexuálnímu zneužívání a vykořisťování dětí, terorismu a nenávistným projevům, dezinformacím a obsahu souvisejícímu se sebepoškozováním a sebevraždami je trvalou výzvou.

S tím, jak se zpřístupňují nové technologie, zůstává zásadní potřeba najít rovnováhu mezi bezpečností a soukromím v digitálním světě a svobodou projevu.

Poskytování bezpečných a zabezpečených online zkušeností je zásadní jak pro globální podniky, tak pro skupiny občanské společnosti i jednotlivce. Globální koalice Světového ekonomického fóra pro digitální bezpečnost sdružuje různorodou skupinu vedoucích představitelů s cílem urychlit spolupráci veřejného a soukromého sektoru v oblasti boje proti škodlivému obsahu a chování na internetu.

Členové této koalice vypracovali Globální zásady digitální bezpečnosti, které definují, jak by se lidská práva měla projevovat v digitálním světě. V pracovní skupině koalice jsou zástupci společností Microsoft, WeProtect Global Alliance, Meta, Amazon, Google, OHCHR (Úřad vysokého komisaře OSN pro lidská práva), Ofcom UK, Global Partners Digital.

Zásady byly vypracovány na základě konzultací s vládami a regulačními orgány, hlavními sociálními médii a technologickými platformami, společnostmi zabývajícími se bezpečnostními technologiemi a zástupci občanské společnosti a akademické obce.

Tyto zásady budou sloužit jako vodítko pro všechny zúčastněné strany v digitálním ekosystému s cílem podpořit digitální bezpečnost na politické, průmyslové a společenské úrovni. K zajištění reálného dopadu je nutná spolupráce mezi vládami, společnostmi a subjekty zapojenými do občanských a sociálních iniciativ.

Ve stručnosti lze říci, že tyto zásady zahrnují:

• Všichni podporovatelé by měli spolupracovat na budování bezpečného, důvěryhodného a inkluzivního online prostředí. [To zahrnuje vše, co se týká i vás – pozn. autorky Nassové]. Politika a rozhodování by měly být prováděny na základě důkazů, poznatků a různých perspektiv. Důležitá je transparentnost a měly by být podporovány inovace.
• Podpůrné vlády by měly rozlišovat mezi nelegálním obsahem a obsahem, který je legální, ale může být škodlivý , a podle toho rozlišovat veškerá regulační opatření, zajistit, aby zákony a politika respektovaly a chránily všechna práva uživatelů. Měly by podporovat oběti a osoby, které přežily zneužití nebo újmu.
• Podpůrní poskytovatelé online služeb by se měli zavázat k dodržování povinností v oblasti lidských práv a vypracovat politiky, které to zajistí, zajistit, aby bezpečnost byla prioritou v celém podnikání a aby byla standardně začleněna při navrhování funkcí, a spolupracovat s ostatními poskytovateli online služeb. [ Hernajs, co je to vlastně „bezpečnost“?]

Zásady rovněž uznávají, že skupiny občanské společnosti a nevládní organizace hrají zásadní roli při prosazování digitální bezpečnosti a prosazování lidských práv; poskytují cenné poznatky o dopadu online bezpečnosti – a online svobody – na komunity a jednotlivce.

„Rozvoj digitální bezpečnosti je klíčem k tomu, aby lidé mohli co nejlépe využívat digitální svět. Tyto zásady byly vytvořeny jako praktický a pozitivní krok k vytvoření bezpečnějšího digitálního prostředí pro všechny a společnost Microsoft je i nadále odhodlána hledat řešení, která tohoto cíle dosáhnou a budou respektovat základní lidská práva.“

-Courtney Gregoire, ředitelka pro digitální bezpečnost, Microsoft

Zásady zohledňují a snaží se doplňovat stávající zásady, jako jsou Dobrovolné zásady pro boj proti sexuálnímu zneužívání a vykořisťování dětí online, Christchurchská výzva k eliminaci teroristického a násilného extremistického obsahu online, Zásady ze Santa Clary, zásady australského komisaře pro elektronickou bezpečnost Safety by Design, rámec osvědčených postupů Digital Trust & Safety Partnership a mnoho dalších.

„Vlády, soukromý sektor i občanská společnost hrají důležitou roli v prevenci zneužívání a vykořisťování online, zejména při ochraně nejzranitelnějších členů společnosti. Tento nový soubor zásad poskytuje důležitý rámec pro účinnější reakci na škody způsobené online, včetně naší vlastní práce na ukončení sexuálního zneužívání dětí online.“

– Iain Drennan, výkonný ředitel WeProtect Global Alliance

Meta (nový název pro Facebook) byla hlavním partnerem WEF (výše) na podporu digitální bezpečnosti. Místo toho však Meta, která vlastní Instagram, na své platformě umožňovala vznik pedofilních sítí, jak vyplývá z podrobného výzkumu pracovníků Stanford Internet Observatory (a tito cenzoři by to měli dobře vědět) a profesora z U Mass, jakož i odborníků na digitální prostředí, jako je Alex Stamos, který stanfordský program založil a vede. Deník Wall Street Journal se do toho ponořil velmi důkladně a nenechal Metě žádný prostor, aby se z toho vykroutila. Vzhledem k tomu, že WSJ je za placenou sekcí (paywallem), uvedu níže celý článek ze 7. června.

https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189

Podle vyšetřování listu The Wall Street Journal a výzkumníků ze Stanfordské univerzity a Massachusettské univerzity v Amherstu pomáhá Instagram, populární sociální médium vlastněné společností Meta Platforms, propojovat a propagovat rozsáhlou síť účtů, které se otevřeně věnují objednávání a nákupu obsahu týkajícího se sexu s nezletiletými osobami.

Pedofilové využívají internet již dlouho, ale na rozdíl od fór a služeb pro přenos souborů, které se starají o lidi se zájmem o nezákonný obsah, Instagram nehostí pouze tyto aktivity Jeho algoritmy je podporují. Instagram spojuje pedofily a navádí je k prodejcům obsahu prostřednictvím doporučovacích systémů, které vynikají v propojování těch, kteří mají stejné specifické zájmy, zjistil časopis a akademičtí výzkumníci.

Ačkoli jsou pro většinu uživatelů platformy mimo dohled, sexualizované účty na Instagramu se bezostyšně hlásí ke svým zájmům. Výzkumníci zjistili, že Instagram umožnil lidem vyhledávat explicitní hashtagy, jako jsou #pedowhore a #preteensex, a propojil je s účty, které tyto výrazy používaly k inzerci sexuálního materiálu s dětmi na prodej. Takové účty často tvrdí, že je provozují samotné děti, a používají otevřeně sexuální popisky obsahující slova jako „malá děvka pro tebe“.

Účty na Instagramu nabízející prodej nedovoleného sexuálního materiálu jej obvykle nezveřejňují otevřeně, místo toho zveřejňují „menu“ s obsahem. Některé účty vyzývají kupující, aby si objednali konkrétní akty. Některá menu obsahují ceny za videa, na nichž si děti ubližují, a „snímky nezletilého, který provádí sexuální akty se zvířaty“, zjistili výzkumníci ze Stanford Internet Observatory. Za správnou cenu jsou děti k dispozici pro osobní „setkání“. Propagace sexuálního obsahu pro nezletilé porušuje pravidla stanovená jak Metou tak i federálními zákony.

V odpovědi na otázky deníku Journal Meta přiznala problémy v rámci svých donucovacích opatření a uvedla, že zřídila interní pracovní skupinu, která se má nastolenými problémy zabývat. „Zneužívání dětí je strašlivý zločin,“ uvedla společnost a dodala: „Neustále zkoumáme způsoby, jak se proti tomuto chování aktivně bránit.“

Společnost Meta uvedla, že v posledních dvou letech zlikvidovala 27 pedofilních sítí a plánuje další odstranění. Od obdržení dotazů deníku Journal platforma uvedla, že zablokovala tisíce hashtagů, které sexualizují děti, některé s miliony příspěvků, a omezila své systémy, aby uživatelům nedoporučovaly vyhledávat výrazy, o nichž je známo, že jsou spojovány se sexuálním zneužíváním. Uvedla také, že pracuje na tom, aby její systémy nedoporučovaly potenciálně pedofilním dospělým osobám vzájemné propojení nebo interakci s obsahem.

Alex Stamos, vedoucí Stanford Internet Observatory a do roku 2018 hlavní bezpečnostní ředitel společnosti Meta, uvedl, že dostat pod kontrolu i zjevné zneužívání bude pravděpodobně vyžadovat trvalé úsilí.

„To, že tým tří akademiků s omezeným přístupem dokázal najít tak obrovskou síť, by mělo ve společnosti Meta spustit alarm,“ řekl s tím, že společnost má mnohem účinnější nástroje pro mapování své pedofilní sítě než lidé zvenčí. „Doufám, že společnost znovu investuje do lidských vyšetřovatelů,“ dodal.

Kvůli technickým a právním překážkám je pro kohokoli mimo společnost Meta obtížné přesně určit celý rozsah sítě.

Vzhledem k tomu, že zákony týkající se sexuálního obsahu pro děti jsou extrémně široké, vyšetřování i otevřená propagace jsou na veřejné platformě právně citlivé.

Deník Journal se ve své zprávě radil s akademickými odborníky na bezpečnost dětí na internetu. Stanfordská internetová observatoř, divize univerzitního Centra kybernetické politiky zaměřená na zneužívání sociálních médií, vypracovala nezávislou kvantitativní analýzu funkcí Instagramu, které uživatelům pomáhají spojovat se a vyhledávat obsah.

Deník oslovil také laboratoř Rescue Lab z UMass, která vyhodnotila, jak pedofilové na Instagramu zapadají do širšího světa online zneužívání dětí. Oba subjekty dokázaly pomocí různých metod rychle identifikovat rozsáhlé komunity propagující kriminální sexuální zneužívání.

Testovací účty zřízené výzkumníky, které si prohlédly jediný účet v síti, byly okamžitě zasaženy „pro vás navrženými“ doporučeními údajných prodejců a kupců sexuálního obsahu pro děti, stejně jako účty odkazujícími na stránky obchodující s obsahem mimo platformu. K zaplavení testovacího účtu obsahem, který sexualizuje děti, stačilo následovat jen několik těchto doporučení.

Stanford Internet Observatory použila hashtagy spojené se sexem nezletilých a našla 405 prodejců materiálu, který výzkumníci označili jako „samo-vygenerovaný“ materiál dětského sexu – neboli účtů, které údajně vedly samy děti, přičemž některé z nich uváděly, že jim bylo pouhých 12 let. Podle údajů shromážděných pomocí softwaru Maltego, který mapuje sítě, mělo 112 z těchto účtů dohromady 22 000 jedinečných sledujících.

Tvůrci a kupci sexuálního obsahu s nezletilými jsou jen částí většího ekosystému, jenž se věnuje sexualizovanému dětskému obsahu. Další účty pedofilní komunity na Instagramu agregují propedofilní memy nebo diskutují o svém přístupu k dětem. Současní a bývalí zaměstnanci společnosti Meta, kteří pracovali na iniciativách týkajících se bezpečnosti dětí na Instagramu, odhadují, že počet účtů, které existují primárně za účelem sledování takového obsahu, se pohybuje v řádu statisíců, ne-li milionů.

Mluvčí společnosti Meta uvedl, že společnost se aktivně snaží takové uživatele odstraňovat a jen v lednu zrušila 490 000 účtů, které porušovaly zásady bezpečnosti dětí.

„Instagram je vstupní branou do míst na internetu, kde dochází k explicitnějšímu sexuálnímu zneužívání dětí,“ řekl Brian Levine, ředitel UMass Rescue Lab, která zkoumá online viktimizaci dětí a vytváří forenzní nástroje pro boj s ní. Levine je autorem zprávy z roku 2022 pro Národní institut spravedlnosti, výzkumnou složku ministerstva spravedlnosti, o zneužívání dětí na internetu.

Instagram, který má podle odhadů více než 1,3 miliardy uživatelů, je oblíbený zejména u dospívajících. Výzkumníci ze Stanfordu zjistili, že některé podobné sexuálně zneužívající aktivity se objevují i na jiných, menších sociálních platformách, ale uvedli, že problém na Instagramu je obzvláště závažný. „Zdá se, že nejdůležitější platformou pro tyto sítě kupujících a prodávajících je Instagram,“ napsali ve zprávě, jejíž zveřejnění je naplánováno na 7. června.

Instagram uvedl, že z jeho interních statistik vyplývá, že uživatelé vidí zneužívání dětí v méně než jednom z deseti tisíc zobrazených příspěvků.

Snaha platforem sociálních médií a orgánů činných v trestním řízení bojovat proti šíření dětské pornografie na internetu se z velké části soustřeďuje na lov potvrzených snímků a videí, známých jako materiál sexuálního zneužívání dětí neboli CSAM, o nichž se již ví, že jsou v oběhu. Národní centrum pro pohřešované a zneužívané děti, americká nezisková organizace, která spolupracuje s orgány činnými v trestním řízení, spravuje databázi digitálních otisků takových snímků a videí a platformu pro sdílení těchto údajů mezi internetovými společnostmi.

Algoritmy internetových společností porovnávají digitální otisky snímků zveřejněných na jejich platformách s tímto seznamem a v případě jejich zjištění podávají středisku zprávu, jak to vyžaduje americký federální zákon. V roce 2022 obdrželo centrum 31,9 milionu hlášení o dětské pornografii, většinou od internetových společností – o 47 % více než o dva roky dříve.

Společnost Meta, která má více než 3 miliardy uživatelů ve svých aplikacích, mezi něž patří Instagram, Facebook a WhatsApp, je schopna tyto typy známých snímků odhalit, pokud nejsou zašifrované. Na společnost Meta připadá 85 % hlášení o dětské pornografii podaných středisku, včetně přibližně 5 milionů z Instagramu.

Automatické prověřování existujícího obsahu zneužívání dětí, které Meta provádí, nedokáže odhalit nové snímky nebo snahy o inzerci jejich prodeje. Prevence a odhalování takových aktivit vyžaduje nejen prověřování uživatelských hlášení, ale i sledování a narušování pedofilních sítí, tvrdí současní a bývalí zaměstnanci i výzkumníci ze Stanfordu. Cílem je ztížit těmto uživatelům vzájemné propojení, vyhledávání obsahu a nábor obětí.

Taková práce je zásadní, protože orgány činné v trestním řízení nemají dostatek prostředků na to, aby vyšetřily více než jen nepatrný zlomek tipů, které NCMEC obdrží, uvedl Levine z UMass. To znamená, že platformy mají hlavní odpovědnost za to, aby zabránily vzniku komunity, která by normalizovala sexuální zneužívání dětí.

Meta se s tímto úsilím potýká více než jiné platformy, a to jak kvůli slabému prosazování práva, tak kvůli konstrukčním prvkům, které podporují vyhledání legálního i nelegálního obsahu, zjistil Stanford.

Stanfordský tým nalezl na Twitteru 128 účtů nabízejících prodej materiálu se sexuálním zneužíváním dětí, což je méně než třetina počtu účtů, které nalezli na Instagramu, který má mnohem větší celkovou uživatelskou základnu než Twitter. Twitter takové účty nedoporučoval ve stejné míře jako Instagram a odstraňoval je mnohem rychleji, zjistil tým.

Z dalších platforem oblíbených mezi mladými lidmi se Snapchat používá hlavně kvůli přímému zasílání zpráv, takže nepomáhá vytvářet sítě. A platforma TikTok je jednou z těch, kde se „tento typ obsahu zřejmě nerozšiřuje“, uvádí se ve stanfordské zprávě.

Twitter na žádosti o komentář nereagoval. TikTok a Snapchat se odmítly vyjádřit.

David Thiel, hlavní technolog Stanfordské internetové observatoře, uvedl: „Problém Instagramu spočívá ve funkcích pro vyhledávání obsahu, ve způsobech doporučování témat a v tom, jak moc platforma spoléhá na vyhledávání a odkazy mezi účty.“ Thiel, který dříve pracoval ve společnosti Meta na otázkách bezpečnosti a zabezpečení, dodal: „Aby něco tak intenzivně rostoucího bylo stále nominálně bezpečné, musíte zavést ochranná opatření, a to Instagram neudělal. “

Platforma se potýkala s dohledem nad základní technologií: klíčovými slovy. Hashtagy jsou ústřední součástí vyhledávání obsahu na Instagramu a umožňují uživatelům označovat a vyhledávat příspěvky, které zajímají určitou komunitu – od širokých témat, jako je #fashion nebo #nba, až po užší, jako je #embroidery nebo #spelunking.

Snímek obrazovky pořízený Stanford Internet Observatory ukazuje upozornění a možnost kliknutí při vyhledávání hashtagu souvisejícího s pedofilií na Instagramu. Foto: Stanford Internet Observatory

Své vybrané hashtagy mají i pedofilové. Vyhledávací výrazy jako #pedobait a variace na #mnsfw („nezletilý není bezpečný pro práci“) byly použity k označení tisíců příspěvků věnovaných reklamě na sexuální obsah s dětmi, díky čemuž je kupující snadno našli, zjistili akademici. Na základě dotazů periodika Journal Meta uvedla, že takové výrazy právě zakazuje.

V mnoha případech Instagram umožnil uživatelům vyhledávat výrazy, o kterých jeho vlastní algoritmy vědí, že mohou být spojeny s nezákonným materiálem. V takových případech vyskakovací obrazovka uživatele varovala, že „tyto výsledky mohou obsahovat obrázky sexuálního zneužívání dětí“, a upozorňovala, že výroba a konzumace takového materiálu způsobuje dětem „extrémní újmu“. Obrazovka nabízela uživatelům dvě možnosti: „Získat zdroje“ a „Přesto si výsledky prohlédnout“

V reakci na otázky deníku Instagram odstranil možnost, aby si uživatelé mohli zobrazit výsledky vyhledávání výrazů, které pravděpodobně obsahují nezákonné obrázky. Společnost odmítla sdělit, proč tuto možnost nabízela.

Pedofilní účty na Instagramu kombinují nestoudnost s povrchní snahou zahalit svou činnost, zjistili výzkumníci. Některé emotikony fungují jako určitý druh kódu, například obrázek mapy – zkratka pro „osobu přitahovanou nezletilými“ – nebo obrázek „sýrové pizzy“, který má společné iniciály s „dětskou pornografií“, uvedl Levine z UMass. Mnozí se prohlašují za „milovníky maličkostí v životě“

Účty se označují jako „prodejce“ nebo „s3ller“ a mnozí ve svých životopisech uvádějí preferovanou formu platby. Tyto účty prodávajících často sdělují údajný věk dítěte tím, že říkají, že je „na kapitole 14“ nebo „věk 31“, za kterým následuje emoji obrácené šipky.

Některé z účtů nesly znaky obchodování se sexem, uvedl Levine z UMass, například jeden zobrazoval teenagerku s načmáraným slovem ŠLAPKA přes obličej.

Někteří uživatelé, kteří tvrdí, že prodávají sexuální obsah vlastní produkce, tvrdí, že jsou „bez tváře“ – nabízejí obrázky pouze od krku dolů – kvůli zkušenostem z minulosti, kdy je zákazníci pronásledovali nebo vydírali. Jiní to riziko podstoupí a účtují si příplatek za snímky a videa, která by mohla odhalit jejich identitu tím, že ukazují jejich tvář.

Na mnoha účtech jsou uživatelé s řeznými jizvami na vnitřní straně paží nebo stehen a řada z nich uvádí sexuální zneužívání v minulosti.

Dokonce i letmý kontakt s účtem v komunitě pedofilů na Instagramu může vyvolat to, že platforma začne uživatelům doporučovat, aby se k ní připojili.

Sarah Adamsová, kanadská matka dvou dětí, si na Instagramu vybudovala publikum diskutující o zneužívání dětí a nebezpečí nadměrného sdílení na sociálních sítích. Vzhledem k jejímu zaměření jí ti, kteří ji sledují, občas posílají znepokojivé věci, se kterými se na platformě setkali. V únoru jí podle jejích slov jeden z nich poslal zprávu s účtem označeným výrazem „incestní batolata“

Adamsová uvedla, že k tomu účtu – sbírka pro-incestních memů s více než 10 000 sledujícími – přistoupila jen na několik vteřin, co jí zabralo to nahlásit Instagramu, a pak se na něj snažila zapomenout. Během několika následujících dní se jí však začali ozývat zděšení rodiče. Když se podívali na instagramový profil Adamsové, řekla, že jim byla v důsledku kontaktu Adamsové s oním účtem doporučuvána „incestní batolata“.

Mluvčí společnosti Meta uvedl, že „incestní batolata“ porušují její pravidla a že Instagram pochybil při jejich vymáhání. Společnost uvedla, že se takovými nevhodnými doporučeními hodlá zabývat v rámci své nové pracovní skupiny pro bezpečnost dětí.

Stejně jako u většiny platforem sociálních médií je jádro doporučení Instagramu založeno na vzorcích chování, nikoli na přiřazování zájmů uživatele ke konkrétním tématům. Tento přístup je účinný při zvyšování relevance doporučení a nejspolehlivěji funguje u komunit, které sdílejí úzký soubor zájmů.

Teoreticky by stejná úzká komunita pedofilů na Instagramu měla Instagramu usnadnit mapování sítě a přijímání opatření k boji proti ní. Dokumenty, které deník Journal již dříve prozkoumal, ukazují, že Meta v minulosti prováděla podobné činnosti, aby potlačila sítě účtů, které považuje za škodlivé, například v případě účtů propagujících zrušení legitimizace voleb v USA po nepokojích v Kapitolu 6. ledna.

Stejně jako jiné platformy Instagram uvádí, že zapojuje své uživatele do pomoci při odhalování účtů, které porušují pravidla. Tyto snahy však nebyly vždy účinné.

Podle přehledu desítek hlášení podaných za poslední rok řadou ochránců bezpečnosti dětí zůstávala někdy hlášení uživatelů o nahotě zahrnující dítě celé měsíce bez odpovědi.

Začátkem tohoto roku objevil jeden z aktivistů proti pedofilii účet na Instagramu, který tvrdil, že patří dívce prodávající obsah s nezletilými, včetně příspěvku, který hlásal: „Tato teenagerka je připravena na vás úchyly.“ Když aktivista účet nahlásil, Instagram reagoval automatickou zprávou, ve které stálo: „Vzhledem k velkému množství hlášení, která dostáváme, náš tým nebyl schopen tento příspěvek prověřit.“

Poté, co stejný aktivista nahlásil další příspěvek, tentokrát spoře oděné mladé dívky s graficky sexuálním popiskem, Instagram odpověděl: „Náš tým prověřující příspěvek zjistil, že příspěvek [účtu] není v rozporu s našimi zásadami komunity.“ V odpovědi bylo uživateli doporučeno, aby účet skryl a vyhnul se tak zobrazení jeho obsahu.

Mluvčí společnosti Meta připustil, že společnost Meta tato hlášení obdržela a nezareagovala na ně. Při přezkoumání způsobu, jakým společnost zpracovává oznámení o sexuálním zneužívání dětí, bylo zjištěno, že softwarová závada brání zpracování podstatné části uživatelských oznámení a že moderátoři společnosti řádně neprosazují pravidla platformy, uvedl mluvčí. Společnost uvedla, že od té doby chybu ve svém systému pro podávání zpráv opravila a poskytuje moderátorům obsahu nové školení.

I když Instagram zruší účty prodávající obsah s pohlavně nedospělými osobami, ne vždy zůstanou odstraněny.

Podle interních směrnic platformy jsou sankce za porušování komunitních standardů obecně ukládány účtům, nikoli uživatelům nebo zařízením. Protože Instagram umožňuje uživatelům provozovat více propojených účtů, systém umožňuje snadné vyhýbání se smysluplnému vymáhání. Uživatelé pravidelně uvádějí ve svých životopisech přezdívky „záložních“ účtů, což jim umožňuje jednoduše pokračovat v publikování pro stejnou skupinu sledujících, pokud je Instagram odstraní.

V některých případech systémy doporučení Instagramu přímo podkopávají úsilí vlastních bezpečnostních pracovníků. Poté, co se společnost rozhodla potírat odkazy z konkrétní služby pro přenos šifrovaných souborů, která je nechvalně známá přenosem sexuálního obsahu pro děti, Instagram zablokoval vyhledávání jejího názvu.

Návrhy hashtagů řízené umělou inteligencí Instagramu tuto zprávu nedostaly. Přestože odmítla zobrazit výsledky pro název služby, funkce automatického vyplňování platformy doporučila uživatelům, aby zkusili varianty názvu s přidáním slov „boys“ a „CP“ na konec.

Společnost se pokusila tyto hashtagy vypnout uprostřed své odpovědi na dotazy deníku Journal. Během několika dní však Instagram opět doporučoval nové varianty názvu služby, které rovněž vedly k účtům prodávajícím údajný obsah se sexem s nezletilými.

Poté, co společnost provedla prvotní kontrolu účtů, na které ji upozornil Stanford a Journal, Levine z UMass prověřil některé ze zbývajících účtů prodávajících nezletilé na Instagramu. Stejně jako dříve vedlo prohlížení byť jediného z nich k tomu, že Instagram doporučil nové. Návrhy Instagramu pomáhaly obnovit síť, kterou se vlastní bezpečnostní pracovníci platformy právě snažili zlikvidovat.

Mluvčí společnosti Meta uvedl, že její systémy, které mají podobným doporučením zabránit, se v současné době budují. Levine označil roli Instagramu při propagaci pedofilního obsahu a účtů za nepřijatelnou.

„Zatáhněte za záchrannou brzdu,“ řekl. „Stojí ekonomické výhody za poškození těchto dětí?“ dodal

Napište Jeffu Horwitzovi na adresu jeff.horwitz@wsj.com a Katherine Bluntové na adresu katherine.blunt@wsj.com

Původně zveřejněno na stránkách Meryl’s COVID Newsletter

Suggest a correction