WEF ( Forumul Economic Mondial) și partenerii săi pretind că lucrează pentru a oferi „siguranță digitală” – dar WSJ ( World Street Journal) tocmai ne-a arătat că partenerul Meta și-a direcționat clienții către site-uri de abuz sexual asupra copiilor

Nu numai că partenerul este o problemă uriașă ( voi furniza textul integral al articolului din WSJ ), dar „siguranța digitală” este, de asemenea, un eufemism pentru cenzură.

Impactul furnizării siguranței digitale – conform Forumului Economic Mondial

Desigur, problemele legate de o identitate digitală și de un pașaport de sănătate sunt:

1. faptul că se vor adăuga rapid funcționalități suplimentare, punându-vă viața și toate tranzacțiile pe o rețea conectată
2. faptul că datele dvs. online pot fi furate (în special datele bancare și de sănătate)
3. banii tăi pot fi opriți sau impozitați după bunul plac
4. deplasarea și achizițiile pot fi limitate
5. rețeaua ta de prieteni și asociații vor fi luați în evidență și urmăriți
6. familia ta ar putea fi obligată să sufere pentru comportamente care nu sunt pe placul controlorilor. Mi s-a spus că, în China, scorul de credit social determină dacă poți închiria sau cumpăra o proprietate sau dacă copiii tăi pot merge la o școală bună.

Dar haideți să o facem mai acceptabilă: este vorba despre drepturile omului. Clipește!, Clipește!.

Abordarea conținutului dăunător online reprezintă o problemă complexă. Este o provocare continuă să combatem abuzul sexual asupra copiilor și exploatarea sexuală a acestora, terorismul și discursul instigator la ură, dezinformarea și conținutul legat de automutilare și sinucidere.

Pe măsură ce noi tehnologii devin disponibile, necesitatea de a găsi un echilibru între siguranța și confidențialitatea în lumea digitală și libertatea de exprimare rămâne vitală.

Oferirea unor experiențe online sigure și securizate este esențială pentru întreprinderile globale, grupurile societății civile și persoanele fizice deopotrivă. Coaliția globală pentru siguranță digitală a Forumului Economic Mondial reunește un grup divers de lideri pentru a accelera cooperarea între sectorul public și cel privat în vederea combaterii conținutului și a comportamentului dăunător online.

Membrii coaliției au elaborat Principiile globale privind siguranța digitală, care definesc modul în care drepturile omului ar trebui să fie transpuse în lumea digitală. Grupul de lucru al coaliției include reprezentanți ai Microsoft, WeProtect Global Alliance, Meta, Amazon, Google, OHCHR (Biroul Înaltului Comisariat al ONU pentru Drepturile Omului), Ofcom UK, Global Partners Digital.

Principiile au fost elaborate în urma consultărilor cu guvernele și autoritățile de reglementare, cu principalele platforme de social media și de tehnologie, cu companii de tehnologie de siguranță și cu reprezentanți ai societății civile și ai mediului academic.

Principiile vor servi drept ghid pentru toate părțile interesate din ecosistemul digital în vederea avansării siguranței digitale la nivel politic, industrial și social. Colaborarea dintre guverne, companii și cei implicați în inițiative civile și sociale este necesară pentru a asigura un impact real.

Pentru a rezuma, principiile includ:

• Toți susținătorii ar trebui să colaboreze pentru a construi un mediu online sigur, de încredere și incluziv. [Include totul despre dvs. -Nass]. Politicile și procesul decizional ar trebui să se facă pe baza dovezilor, a cunoștințelor și a diverselor perspective. Transparența este importantă, iar inovația ar trebui să fie încurajată.
• Guvernele favorabile ar trebui să facă distincția între conținutul ilegal și conținutul care este legal, dar care poate fi dăunător , și să diferențieze orice măsuri de reglementare în consecință, să se asigure că legea și politica respectă și protejează toate drepturile utilizatorilor. Acestea ar trebui să sprijine victimele și supraviețuitorii abuzurilor sau prejudiciilor.
• Furnizorii de servicii online favorabili ar trebui să se angajeze să respecte responsabilitățile în materie de drepturi ale omului și să elaboreze politici care să garanteze acest lucru, să se asigure că siguranța este o prioritate în întreaga activitate și că aceasta este încorporată ca standard atunci când se proiectează funcții și să colaboreze cu alți furnizori de servicii online.

Principiile recunosc, de asemenea, că grupurile societății civile și organizațiile neguvernamentale joacă un rol esențial în promovarea siguranței digitale și a drepturilor omului; acestea oferă informații valoroase cu privire la impactul siguranței online – și al libertății online – asupra comunităților și persoanelor.

„Promovarea siguranței digitale este esențială pentru a da oamenilor posibilitatea de a profita la maximum de lumea digitală. Aceste principii au fost create ca un pas acționabil și pozitiv în direcția creării unei experiențe digitale mai sigure pentru toată lumea, iar Microsoft își menține angajamentul de a găsi soluții care să atingă acest obiectiv și să respecte drepturile fundamentale ale omului.”

-Courtney Gregoire, Chief Digital Safety Officer, Microsoft

Principiile iau în considerare și încearcă să completeze principiile existente, cum ar fi Principiile voluntare de combatere a abuzului sexual și a exploatării sexuale online a copiilor, Apelul de la Christchurch pentru a elimina conținutul terorist și extremist violent online, Principiile Santa Clara, principiile Safety by Design ale comisarului australian pentru eSafety, cadrul de bune practici al Digital Trust & Safety Partnership și multe altele.

„Guvernele, sectorul privat și societatea civilă au cu toții un rol important de jucat în prevenirea abuzurilor și a exploatării online, în special atunci când îi protejează pe cei mai vulnerabili din societate. Acest nou set de principii oferă un cadru important pentru un răspuns mai eficient la daunele online, inclusiv la propria noastră activitate de a pune capăt abuzurilor sexuale asupra copiilor online.”

– Iain Drennan, director executiv, Alianța globală WeProtect

Meta (noul nume al Facebook) a fost un partener important al Forumului Economic Mondial pentru promovarea siguranței digitale. Dar, în schimb, Meta, care deține Instagram, a facilitat rețelele de pedofilie pe platforma sa, potrivit unei cercetări detaliate efectuate de personalul Observatorului de Internet de la Stanford (și acești cenzori ar trebui să știe) și de un profesor de la U Mass, precum și de experți în peisajul digital, precum Alex Stamos, care a fondat și conduce programul de la Stanford. Wall Street Journal a făcut o cercetare foarte profundă și nu lasă loc Meta să se eschiveze din asta. Deoarece WSJ se află în spatele unui paywall, voi oferi mai jos întregul articol din 7 iunie.

https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189

Instagram, popularul site de socializare deținut de Meta Platforms, ajută la conectarea și promovarea unei rețele vaste de conturi dedicate în mod deschis comisionării și achiziționării de conținut sexual cu minori, potrivit investigațiilor efectuate de The Wall Street Journal și de cercetătorii de la Universitatea Stanford și de la Universitatea din Massachusetts Amherst.

Pedofilii folosesc de mult timp internetul, dar, spre deosebire de forumurile și serviciile de transfer de fișiere care se adresează persoanelor interesate de conținut ilicit, Instagram nu găzduiește pur și simplu aceste activități. Algoritmii săi le promovează. Instagram conectează pedofilii și îi îndrumă către vânzătorii de conținut prin intermediul unor sisteme de recomandare care excelează în a pune în legătură pe cei care împărtășesc interese de nișă, au descoperit Journal și cercetătorii universitari.

Deși nu sunt la vedere pentru majoritatea celor de pe platformă, conturile sexualizate de pe Instagram sunt nerușinate în ceea ce privește interesul lor. Cercetătorii au descoperit că Instagram le-a permis oamenilor să caute hashtag-uri explicite, precum #pedowhore și #preteensex, și i-a conectat la conturi care foloseau acești termeni pentru a face publicitate la materiale sexuale cu copii de vânzare. Astfel de conturi pretind adesea că sunt conduse chiar de către copii și folosesc maniere vădit sexuale care încorporează cuvinte precum „mică târfă pentru tine.”

Conturile de Instagram care se oferă să vândă materiale sexuale ilicite nu le publică, în general, în mod deschis, postând în schimb „meniuri” de conținut. Anumite conturi invită cumpărătorii să comande acte specifice. Unele meniuri includ prețuri pentru videoclipuri cu copii care își fac rău singuri și „imagini în care minorul efectuează acte sexuale cu animale”, au constatat cercetătorii de la Stanford Internet Observatory. La prețul corect, copiii sunt disponibili pentru „întâlniri” în persoană .”Promovarea de conținut sexual cu minori ” încalcă regulile stabilite de Meta, precum și legislația federală.

Ca răspuns la întrebările adresate de Journal, Meta a recunoscut existența unor probleme în cadrul operațiunilor sale de aplicare a legii și a declarat că a înființat un grup de lucru intern pentru a aborda problemele ridicate. „Exploatarea copiilor este o crimă oribilă”, a declarat compania, adăugând: „Investigăm în permanență modalități de a ne apăra activ împotriva acestui comportament.”

Meta a declarat că, în ultimii doi ani, a eliminat 27 de rețele de pedofilie și că plănuiește alte eliminări. De când a primit interpelările Jurnalului, platforma a declarat că a blocat mii de hashtag-uri care sexualizează copiii, unele cu milioane de postări, și a restricționat sistemele sale de a recomanda utilizatorilor să caute termeni cunoscuți ca fiind asociați cu abuzul sexual. De asemenea, a precizat că lucrează pentru a împiedica sistemele sale să recomande adulților potențial pedofili să se conecteze între ei sau să interacționeze cu conținutul celorlalți.

Alex Stamos, șeful Observatorului de Internet de la Stanford și director de securitate al Meta până în 2018, a declarat că pentru a ține sub control chiar și abuzurile evidente va fi nevoie probabil de un efort susținut.

„Faptul că o echipă formată din trei academicieni cu acces limitat a putut găsi o rețea atât de mare ar trebui să declanșeze alarmele la Meta”, a spus el, menționând că societatea are instrumente mult mai eficiente pentru a-și cartografia rețeaua de pedofilie decât o fac cei din afară. „Sper ca firma să reinvestească în investigatori umani”, a adăugat el.

Obstacolele tehnice și juridice fac ca determinarea întregii dimensiuni a rețelei să fie greu de măsurat cu precizie pentru oricine din afara Meta.

Deoarece legile privind conținutul sexual cu copii sunt extrem de largi, investigarea chiar și a promovării deschise a acestuia pe o platformă publică este sensibilă din punct de vedere juridic.

În reportajul său, Jurnalul a consultat experți academici în domeniul siguranței online a copiilor. Observatorul de Internet de la Stanford, o divizie a Centrului de politici cibernetice al universității care se concentrează pe abuzurile din social-media, a realizat o analiză cantitativă independentă a funcțiilor Instagram care ajută utilizatorii să se conecteze și să găsească conținut.

De asemenea, Journal a abordat laboratorul Rescue Lab de la UMass, care a evaluat modul în care pedofilii de pe Instagram se încadrează în lumea mai largă a exploatării online a copiilor. Utilizând metode diferite, ambele entități au reușit să identifice rapid comunitățile la scară largă care promovează abuzul sexual criminal.

Conturile de test înființate de cercetători care au vizualizat un singur cont din rețea au fost imediat lovite de recomandări „sugerate pentru dumneavoastră” de presupuși vânzători și cumpărători de conținut sexual cu copii, precum și de conturi care făceau legătura cu site-uri de comercializare de conținut în afara platformei. A urma doar câteva dintre aceste recomandări a fost suficient pentru a inunda un cont de test cu conținut care sexualizează copiii.

Stanford Internet Observatory a folosit hashtag-uri asociate cu sexul cu minori pentru a găsi 405 vânzători de ceea ce cercetătorii au numit material sexual cu copii „autogenerat” – sau conturi care ar fi fost administrate chiar de copii, unii dintre ei spunând că au doar 12 ani. Conform datelor colectate prin intermediul Maltego, un software de cartografiere a rețelelor, 112 dintre aceste conturi de vânzători aveau în total 22 000 de urmăritori unici.

Creatorii și cumpărătorii de conținut sexual cu minori sunt doar un colț dintr-un ecosistem mai mare dedicat conținutului sexualizat pentru copii. Alte conturi din comunitatea pedofilă de pe Instagram agregă meme-uri pro-pedofilie sau discută despre accesul lor la copii. Angajații actuali și foști angajați Meta care au lucrat la inițiativele de siguranță a copiilor de pe Instagram estimează că numărul de conturi care există în principal pentru a urmări astfel de conținut este de ordinul sutelor de mii, dacă nu de milioane.

Un purtător de cuvânt al Meta a declarat că societatea caută în mod activ să elimine astfel de utilizatori, eliminând 490.000 de conturi pentru că au încălcat politicile sale de siguranță pentru copii numai în luna ianuarie.

„Instagram este o rampă de acces către locurile de pe internet unde există abuzuri sexuale mai explicite asupra copiilor”, a declarat Brian Levine, directorul UMass Rescue Lab, care cercetează victimizarea online a copiilor și creează instrumente criminalistice pentru a le combate. Levine este unul dintre autorii unui raport din 2022 pentru Institutul Național de Justiție, brațul de cercetare al Departamentului de Justiție, privind exploatarea copiilor pe internet.

Instagram, care se estimează că are peste 1,3 miliarde de utilizatori, este deosebit de popular printre adolescenți. Cercetătorii de la Stanford au găsit unele activități similare de exploatare sexuală pe alte platforme sociale mai mici, dar au spus că au constatat că problema de pe Instagram este deosebit de gravă. „Cea mai importantă platformă pentru aceste rețele de cumpărători și vânzători pare să fie Instagram”, au scris aceștia într-un raport programat să fie publicat pe 7 iunie.

Instagram a declarat că statisticile sale interne arată că utilizatorii văd exploatarea copiilor în mai puțin de una din 10 mii de postări vizualizate.

Efortul depus de platformele de socializare și de autoritățile de aplicare a legii pentru a lupta împotriva răspândirii pornografiei infantile online se axează în mare parte pe vânătoarea de imagini și videoclipuri confirmate, cunoscute sub numele de materiale de abuz sexual asupra copiilor, sau CSAM, despre care se știe deja că sunt în circulație. Centrul Național pentru Copii Dispăruți și Exploatați, o organizație non-profit din SUA care colaborează cu forțele de ordine, menține o bază de date cu amprente digitale pentru astfel de imagini și videoclipuri și o platformă pentru schimbul de astfel de date între companiile de internet.

Algoritmii companiilor de internet verifică amprentele digitale ale imaginilor postate pe platformele lor în raport cu această listă și raportează centrului atunci când le detectează, așa cum prevede legea federală din SUA. În 2022, centrul a primit 31,9 milioane de raportări de pornografie infantilă, majoritatea de la companii de internet – o creștere de 47% față de doi ani mai devreme.

Meta, cu peste 3 miliarde de utilizatori în aplicațiile sale, care includ Instagram, Facebook și WhatsApp, este capabilă să detecteze aceste tipuri de imagini cunoscute dacă nu sunt criptate. Meta a reprezentat 85% din rapoartele de pornografie infantilă depuse la centru, inclusiv aproximativ 5 milioane de la Instagram.

Depistarea automată a Meta pentru conținutul existent de exploatare a copiilor nu poate detecta imagini noi sau eforturile de a face publicitate pentru vânzarea acestora. Prevenirea și detectarea unei astfel de activități necesită nu doar examinarea rapoartelor utilizatorilor, ci și urmărirea și întreruperea rețelelor de pedofili, spun actualii și foștii angajați, precum și cercetătorii de la Stanford. Scopul este de a face dificilă pentru astfel de utilizatori conectarea între ei, găsirea de conținut și recrutarea de victime.

O astfel de activitate este vitală deoarece agențiile de aplicare a legii nu dispun de resursele necesare pentru a investiga mai mult decât o mică parte din sfaturile pe care NCMEC le primește, a declarat Levine de la UMass. Asta înseamnă că platformele au responsabilitatea principală de a preveni formarea unei comunități și normalizarea abuzului sexual asupra copiilor.

Meta s-a luptat cu aceste eforturi mai mult decât alte platforme, atât din cauza aplicării slabe a legii, cât și din cauza caracteristicilor de proiectare care promovează descoperirea de conținut atât de materiale legale, cât și ilicite, a constatat Stanford.

Echipa de la Stanford a găsit 128 de conturi care se ofereau să vândă materiale despre abuzuri sexuale asupra copiilor pe Twitter, mai puțin de o treime din numărul pe care l-au găsit pe Instagram, care are o bază de utilizatori mult mai mare decât Twitter. Echipa a constatat că Twitter nu a recomandat astfel de conturi în aceeași măsură ca Instagram și le-a eliminat mult mai rapid.

Printre alte platforme populare în rândul tinerilor, Snapchat este folosit în principal pentru mesageria directă, deci nu ajută la crearea de rețele. Iar platforma TikTok este una în care „acest tip de conținut nu pare să prolifereze”, se arată în raportul Stanford.

Twitter nu a răspuns la solicitările de comentarii. TikTok și Snapchat au refuzat să comenteze.

David Thiel, tehnolog șef la Stanford Internet Observatory, a declarat: „Problema Instagram se reduce la funcțiile de descoperire a conținutului, la modul în care sunt recomandate subiectele și la cât de mult se bazează platforma pe căutare și pe legăturile dintre conturi.” Thiel, care a lucrat anterior la Meta pe probleme de securitate și siguranță, a adăugat: „Trebuie să pui garduri de protecție pentru ca ceva cu o creștere atât de intensă să fie totuși nominal sigur, iar Instagram nu a făcut-o.”

Platforma s-a străduit să supravegheze o tehnologie de bază: cuvintele cheie. Hashtag-urile sunt o parte centrală a descoperirii de conținut pe Instagram, permițând utilizatorilor să eticheteze și să găsească postări de interes pentru o anumită comunitate – de la subiecte largi, cum ar fi #fashion sau #nba, până la cele mai restrânse, cum ar fi #broderie sau #cautatori de pesteri.

O captură de ecran realizată de Stanford Internet Observatory arată avertismentul și opțiunea de clickthrough atunci când se caută un hashtag legat de pedofilie pe Instagram. Foto: Stanford Internet Observatory

Pedofilii au și ei hashtag-urile lor alese. Termeni de căutare precum #pedobait și variații ale #mnsfw („minor not safe for work”, „minor ce nu e in sigurata pentru a lucra”) au fost folosiți pentru a marca mii de postări dedicate publicității conținutului sexual cu copii, făcându-le ușor de găsit de către cumpărători, au descoperit cercetătorii universitari. În urma întrebărilor adresate de Journal, Meta a declarat că este în curs de interzicere a acestor termeni.

În multe cazuri, Instagram a permis utilizatorilor să caute termeni despre care propriii algoritmi știu că pot fi asociați cu materiale ilegale. În astfel de cazuri, un ecran pop-up pentru utilizatori a avertizat că „Aceste rezultate pot conține imagini cu abuzuri sexuale asupra copiilor” și a menționat că producția și consumul de astfel de materiale cauzează „daune extreme” copiilor. Ecranul oferea două opțiuni pentru utilizatori: „Obțineți resurse” și „Vedeți rezultatele oricum.”

Ca răspuns la întrebările Jurnalului, Instagram a eliminat opțiunea ca utilizatorii să vadă rezultatele căutării pentru termenii susceptibili de a produce imagini ilegale. Compania a refuzat să spună de ce a oferit această opțiune.

Conturile pedofile de pe Instagram amestecă obrăznicia cu eforturile superficiale de a-și acoperi activitatea, au constatat cercetătorii. Anumite emoticoane funcționează ca un fel de cod, cum ar fi imaginea unei hărți – abrevierea pentru „persoană atrasă de minori” – sau una a „cheese pizza”, care își împarte inițialele cu „pornografie infantilă”, potrivit lui Levine de la UMass. Mulți se declară „iubitori ai lucrurilor mărunte din viață”.

Conturile se identifică ca „vânzător” sau „s3ller”, iar mulți își declară forma de plată preferată în biografia lor. Aceste conturi de vânzători transmit adesea vârsta pretinsă a copilului, spunând că este „la capitolul 14” sau „vârsta de 31 de ani”, urmată de un emoji cu o săgeată inversă.

Unele dintre conturi purtau indicii de trafic sexual, a declarat Levine de la UMass, cum ar fi unul care prezintă o adolescentă cu cuvântul WHORE mâzgălit pe față.

Unii utilizatori care pretind că vând conținut sexual produs de ei înșiși spun că sunt „fără chip” – oferind imagini doar de la gât în jos – din cauza unor experiențe anterioare în care clienții i-au urmărit sau șantajat. Alții își asumă riscul, cerând o primă pentru imagini și videoclipuri care le-ar putea dezvălui identitatea prin arătarea feței.

Multe dintre conturi arată utilizatori cu cicatrici de tăiere pe interiorul brațelor sau pe coapse, iar o parte dintre ei menționează abuzuri sexuale din trecut.

Chiar și contactul din priviri cu un cont din comunitatea de pedofili de pe Instagram poate declanșa platforma să înceapă să recomande utilizatorilor să se alăture acesteia.

Sarah Adams, o canadiancă, mamă a doi copii, și-a construit o audiență pe Instagram în care discută despre exploatarea copiilor și despre pericolele pe care le implică distribuirea excesivă pe rețelele de socializare. Având în vedere accentul pe care îl pune, adepții lui Adams îi trimit uneori lucruri tulburătoare pe care le-au întâlnit pe platformă. În februarie, a spus ea, unul i-a trimis un mesaj cu un cont marcat cu termenul „incest toddlers.”

Adams a spus că a accesat contul – o colecție de meme-uri pro-incest cu peste 10.000 de urmăritori – doar pentru cele câteva secunde care au fost necesare pentru a raporta la Instagram, apoi a încercat să uite de el. Dar, în cursul următoarelor zile, a început să audă de la părinți îngroziți. Când s-au uitat la profilul Instagram al lui Adams, le-a spus că li se recomandau „incest copii mici” ca urmare a contactului lui Adams cu contul.

Un purtător de cuvânt al Meta a declarat că „incest toddlers” ‘”incest copii mici” a încălcat regulile sale și că Instagram a greșit la aplicare. Compania a declarat că intenționează să abordeze astfel de recomandări nepotrivite ca parte a noului său grup de lucru pentru siguranța copiilor.

La fel ca în cazul majorității platformelor de socializare, nucleul recomandărilor Instagram se bazează pe modele comportamentale, nu pe potrivirea intereselor unui utilizator cu subiecte specifice. Această abordare este eficientă în ceea ce privește creșterea relevanței recomandărilor și funcționează cel mai fiabil pentru comunitățile care împărtășesc un set restrâns de interese.

În teorie, aceeași îngustime a comunității de pedofili de pe Instagram ar trebui să faciliteze cartografierea rețelei și luarea de măsuri pentru a o combate. Documentele analizate anterior de Journal arată că Meta a făcut acest tip de muncă în trecut pentru a suprima rețelele de conturi pe care le consideră dăunătoare, cum ar fi în cazul conturilor care promovează delegitimarea alegerilor din SUA după revolta din 6 ianuarie de la Capitoliu.

Ca și alte platforme, Instagram spune că își înrolează utilizatorii pentru a ajuta la detectarea conturilor care încalcă regulile. Dar aceste eforturi nu au fost întotdeauna eficiente.

Uneori, raportările utilizatorilor cu privire la nuditate în care este implicat un copil au rămas fără răspuns timp de luni de zile, potrivit unei analize a zeci de rapoarte depuse în ultimul an de numeroși avocați pentru siguranța copiilor.

La începutul acestui an, un activist antipedofilie a descoperit un cont de Instagram care pretindea că aparține unei fete și care vindea conținut sexual cu minori, inclusiv o postare care declara: „Această adolescentă este pregătită pentru voi, perverșilor” Când activistul a raportat contul, Instagram a răspuns cu un mesaj automat care spunea: „Din cauza volumului mare de raportări pe care le primim, echipa noastră nu a putut să analizeze această postare.”

După ce același activist a raportat o altă postare, aceasta cu o tânără îmbrăcată sumar și cu o legendă cu caracter grafic sexual, Instagram a răspuns: „Echipa noastră de revizuire a constatat că postarea contului nu contravine Ghidului nostru pentru comunitate” Răspunsul a sugerat ca utilizatorul să ascundă contul pentru a evita să vadă conținutul acestuia.

Un purtător de cuvânt al Meta a recunoscut că Meta a primit rapoartele și nu a luat măsuri în urma lor. O revizuire a modului în care compania a gestionat rapoartele privind abuzurile sexuale asupra copiilor a constatat că o eroare de software a împiedicat procesarea unei părți substanțiale a rapoartelor utilizatorilor și că personalul de moderare al companiei nu a aplicat în mod corespunzător regulile platformei, a declarat purtătorul de cuvânt. Compania a precizat că de atunci a remediat defecțiunea din sistemul său de raportare și că oferă noi cursuri de formare pentru moderatorii săi de conținut.

Chiar și atunci când Instagram elimină conturile care vând conținut cu context sexual minor, acestea nu dispar întotdeauna.

Conform liniilor directoare interne ale platformei, sancțiunile pentru încălcarea standardelor sale comunitare sunt aplicate, în general, conturilor, nu utilizatorilor sau dispozitivelor. Deoarece Instagram le permite utilizatorilor să administreze mai multe conturi legate între ele, sistemul permite cu ușurință să se sustragă unei aplicări semnificative. Utilizatorii enumeră în mod regulat în biografiile lor conturile de „rezervă”, ceea ce le permite să reia pur și simplu publicarea către același set de urmăritori dacă Instagram le elimină.

În unele cazuri, sistemele de recomandări ale Instagram subminează în mod direct eforturile depuse de propriul personal de siguranță. După ce compania a decis să ia măsuri drastice împotriva link-urilor de la un anumit serviciu de transfer de fișiere criptate, cunoscut pentru transmiterea de conținut sexual cu copii, Instagram a blocat căutările pentru numele acestuia.

Sugestiile de hashtag-uri bazate pe inteligența artificială ale Instagram nu au înțeles mesajul. În ciuda faptului că a refuzat să afișeze rezultate pentru numele serviciului, funcția de autocompletare a platformei a recomandat utilizatorilor să încerce variante ale numelui cu cuvintele „boys” și „CP” adăugate la sfârșit.

Compania a încercat să dezactiveze aceste hashtag-uri pe fondul răspunsului său la interogările făcute de Journal. Dar, în câteva zile, Instagram a recomandat din nou noi variante ale numelui serviciului, care au condus, de asemenea, la conturi care vindeau presupus conținut sexual cu minori.

În urma controlului inițial al companiei asupra conturilor aduse în atenția sa de Stanford și Journal, Levine de la UMass a verificat unele dintre conturile de vânzare de sex cu minori rămase pe Instagram. Ca și înainte, vizualizarea chiar și a unuia dintre ele a determinat Instagram să recomande altele noi. Sugestiile Instagram au ajutat la reconstruirea rețelei pe care propriul personal de siguranță al platformei se afla în mijlocul încercării de a o desființa.

Un purtător de cuvânt al Meta a declarat că sistemele sale pentru a preveni astfel de recomandări sunt în curs de construcție. Levine a calificat drept inacceptabil rolul Instagram în promovarea conținutului și a conturilor pedofile.

„Trageți frâna de urgență”, a spus el. „Merită beneficiile economice pentru daunele aduse acestor copii?”

Scrieți-le lui Jeff Horwitz la jeff.horwitz@wsj.com și lui Katherine Blunt la katherine.blunt@wsj.com

Publicată inițial pe buletinul informativ COVID al lui Meryl

Suggest a correction