A WEF és partnerei azt állítják, hogy a „digitális biztonság” érdekében dolgoznak – csakhogy a WSJ most mutatta meg, hogy a partner Meta a gyermekekkel való szexuális visszaélések oldalaira irányítja ügyfeleit
Nemcsak a partner hatalmas probléma (a WSJ cikk teljes szövegét közlöm), hanem a „digitális biztonság” a cenzúra eufemizmusa is
A digitális biztonság nyújtásának hatása –a Világgazdasági Fórum szerint
Természetesen a digitális személyazonossággal és az egészségügyi útlevéllel kapcsolatos problémák:
- hogy gyorsan további funkciókkal bővülnek, és ezzel az Ön élete és minden tranzakciója egy összekapcsolt hálóra kerül
- az online adatok ellophatók (különösen az egészségügyi és banki adatok)
- a pénzét tetszés szerint kikapcsolhatják vagy megadóztathatják
- korlátozni lehet a mozgását és a vásárlásait
- a baráti hálózatodat és a társaidat mind feljegyzik és nyomon követik
- a családodat szenvedésre kényszeríthetik az ellenőröknek nem tetsző viselkedés miatt. Kínában a szociális hitelpontjaid alapján döntenek arról, hogy bérelhetsz vagy vehetsz-e ingatlant, vagy hogy a gyermekeid jó iskolába járhatnak-e, ahogy nekem mondták.
De tegyük ízlésessé: ez az egész az emberi jogokról szól. Kacsintás, kacsintás.
A káros online tartalmak kezelése összetett problémát jelent. Folyamatos kihívást jelent a gyermekek szexuális zaklatása és kizsákmányolása, a terrorizmus és a gyűlöletbeszéd, a félretájékoztatás, valamint az önkárosítással és öngyilkossággal kapcsolatos tartalmak elleni küzdelem.
Az új technológiák megjelenésével párhuzamosan továbbra is létfontosságú, hogy egyensúlyt teremtsünk a digitális világ biztonsága és magánélete, valamint a véleménynyilvánítás szabadsága között.
A biztonságos és védett online élmények nyújtása alapvető fontosságú a globális vállalkozások, a civil társadalmi csoportok és az egyének számára egyaránt. A Világgazdasági Fórum Globális Koalíció a Digitális Biztonságért elnevezésű programja a vezetők sokszínű csoportját tömöríti, hogy felgyorsítsa a köz- és magánszféra együttműködését az online káros tartalmak és magatartásformák elleni küzdelemben.
A koalíció tagjai kidolgozták a digitális biztonságról szóló globális alapelveket, amelyek meghatározzák, hogy az emberi jogoknak hogyan kell érvényesülniük a digitális világban. A koalíció munkacsoportjában a Microsoft, a WeProtect Global Alliance képviselői is részt vesznek, Meta, az Amazon, a Google, az OHCHR (ENSZ Emberi Jogi Főbiztosának Hivatala), az Ofcom UK, a Global Partners Digital.
Az alapelveket a kormányokkal és szabályozó hatóságokkal, a főbb közösségi média- és technológiai platformokkal, a biztonságtechnológiai vállalatokkal, valamint a civil társadalom és a tudományos élet képviselőivel folytatott konzultációk során dolgozták ki.
Az elvek a digitális ökoszisztéma valamennyi érdekeltje számára útmutatóként szolgálnak majd a digitális biztonság politikai, ágazati és társadalmi szintű előmozdításához. A kormányok, a vállalatok, valamint a civil és társadalmi kezdeményezésekben részt vevők közötti együttműködésre van szükség a valós hatás biztosításához.
Összefoglalva, az alapelvek a következőket tartalmazzák:
- Minden támogatónak együtt kell működnie a biztonságos, megbízható és befogadó online környezet kialakítása érdekében. [Beleértve mindent, ami rólad szól.-Nass]. A politikát és a döntéshozatalt tényeken, meglátásokon és sokszínű perspektívákon alapulóan kell meghozni. Fontos az átláthatóság, és támogatni kell az innovációt.
- A támogató kormányoknak különbséget kell tenniük az illegális tartalom és a jogszerű, de esetleg káros tartalom között, és ennek megfelelően kell differenciálniuk a szabályozási intézkedéseket, biztosítaniuk kell, hogy a törvény és a politika tiszteletben tartson és védjen minden felhasználói jogot. Támogatniuk kell a visszaélések és károkozás áldozatait és túlélőit.
- A támogató online szolgáltatóknak el kell kötelezniük magukat az emberi jogi felelősség tiszteletben tartása mellett, és ki kell dolgozniuk az ezt biztosító politikákat, biztosítaniuk kell, hogy a biztonság az egész vállalkozásban prioritást élvez zen, és hogy a funkciók kialakításakor alapértelmezettként beépüljön, valamint együtt kell működniük más online szolgáltatókkal. [ Mit jelent egyébként a „biztonság”?]
Az elvek azt is elismerik, hogy a civil társadalmi csoportok és a nem kormányzati szervezetek kritikus szerepet játszanak a digitális biztonság előmozdításában és az emberi jogok előmozdításában; értékes betekintést nyújtanak az online biztonság – és az online szabadság – közösségekre és egyénekre gyakorolt hatásáról.
„A digitális biztonság előmozdítása kulcsfontosságú ahhoz, hogy az emberek a lehető legtöbbet hozhassák ki a digitális világból. Ezeket az elveket úgy alkottuk meg, mint egy megvalósítható, pozitív lépést a mindenki számára biztonságosabb digitális élmény megteremtése felé, és a Microsoft továbbra is elkötelezett az olyan megoldások megtalálása mellett, amelyek ezt a célt elérik és tiszteletben tartják az alapvető emberi jogokat.”
-Courtney Gregoire, a Microsoft digitális biztonságért felelős vezetője
Az elvek figyelembe veszik és kiegészíteni igyekeznek a már létező elveket, mint például a gyermekek online szexuális zaklatása és kizsákmányolása elleni önkéntes elveket, a Christchurchi felhívást a terrorista és erőszakos szélsőséges online tartalmak felszámolására, a Santa Clara-i elveket, az ausztrál eSafety biztos Safety by Design elveit, a Digital Trust & Safety Partnership legjobb gyakorlatok keretrendszerét és még sok mást.
„A kormányoknak, a magánszektornak és a civil társadalomnak egyaránt fontos szerepe van az online visszaélések és kizsákmányolás megelőzésében, különösen a társadalom legkiszolgáltatottabb tagjainak védelmében. Ez az új alapelvek fontos keretet biztosítanak az online ártalmakra való hatékonyabb reagáláshoz, beleértve a mi saját munkánkat is a gyermekek online szexuális zaklatásának megszüntetése érdekében.”
– Iain Drennan, a WeProtect Global Alliance ügyvezető igazgatója
A Meta (a Facebook új neve) a WEF egyik fő partnere volt (fent) a digitális biztonság előmozdítása érdekében. Ehelyett azonban a Meta, amely az Instagram tulajdonosa, a Stanford Internet Observatory munkatársai (és ezeket a cenzoroknak tudniuk kellene) és egy U Mass professzor, valamint a digitális táj szakértői, mint Alex Stamos, a Stanford program alapítója és vezetője, részletes kutatások szerint pedofil hálózatokat segít a platformján. A Wall Street Journal nagyon mélyre ásott, és nem hagynak teret a Meta számára, hogy kibújjon ebből a helyzetből. Mivel a WSJ fizetős fal mögött van, alább közlöm a teljes június 7-i cikket.
https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189
Az Instagram, a Meta Platforms tulajdonában lévő népszerű közösségi médiaoldal segít összekapcsolni és népszerűsíteni egy olyan hatalmas fiókhálózatot, amely nyíltan a kiskorúaknak szóló szexuális tartalmak megrendelésének és megvásárlásának szenteli magát – derül ki a The Wall Street Journal, valamint a Stanford Egyetem és a Massachusetts Amherst Egyetem kutatóinak vizsgálataiból.
A pedofilok már régóta használják az internetet, de a tiltott tartalmak iránt érdeklődőket kiszolgáló fórumokkal és fájltovábbító szolgáltatásokkal ellentétben az Instagram nem pusztán befogadója ezeknek a tevékenységeknek. Algoritmusai elősegítik őket. Az Instagram összekapcsolja a pedofilokat, és olyan ajánlórendszereken keresztül irányítja őket a tartalomértékesítőkhöz, amelyek kiválóan összekapcsolják azokat, akiknek közösek a hiánypótló érdeklődési köreik – állapították meg a Journal és az akadémiai kutatók.
Bár a platformon a legtöbbek számára láthatatlanok, az Instagram szexualizált fiókjai szemérmetlenül vállalják érdeklődésüket. A kutatók megállapították, hogy az Instagram lehetővé tette az emberek számára, hogy olyan explicit hashtageket keressenek, mint a #pedowhore és a #preteensex, és összekapcsolta őket olyan fiókokkal, amelyek a kifejezéseket arra használták, hogy eladásra szánt gyermekszexuális anyagokat hirdessenek. Az ilyen fiókok gyakran azt állítják, hogy maguk a gyerekek vezetik őket, és nyíltan szexuális jellegű fogásokat használnak, amelyek olyan szavakat tartalmaznak, mint például „kis ribanc neked”
A tiltott szexuális anyagok értékesítését kínáló Instagram-fiókok általában nem teszik közzé azokat nyíltan, ehelyett „menüket” posztolnak a tartalomból. Egyes fiókok konkrét aktusok megrendelésére invitálják a vevőket. Néhány menü olyan videók árát tartalmazza, amelyekben a gyerekek önmagukat bántalmazzák, illetve „olyan képeket, amelyeken a kiskorúak állatokkal végeznek szexuális aktusokat” – állapították meg a Stanford Internet Observatory kutatói. Megfelelő áron a gyerekek elérhetőek személyes „találkozásokra” A kiskorúaknak szóló szexuális tartalmak népszerűsítése sérti a Meta által megállapított szabályokat, valamint a szövetségi törvényeket.
A Journal kérdéseire válaszolva a Meta elismerte a végrehajtási műveleteken belüli problémákat, és közölte, hogy belső munkacsoportot hozott létre a felmerült problémák megoldására. „A gyermekek kizsákmányolása szörnyű bűncselekmény” – mondta a vállalat, hozzátéve: „Folyamatosan vizsgáljuk, hogyan tudunk aktívan védekezni ez ellen a viselkedés ellen”
A Meta elmondta, hogy az elmúlt két évben 27 pedofil hálózatot számolt fel, és további eltávolításokat tervez. A Journal megkereséseinek beérkezése óta a platform közölte, hogy több ezer olyan hashtaget blokkolt, amelyek gyerekeket szexualizálnak, némelyik több millió posztot tartalmaz, és korlátozta a rendszereit abban, hogy a felhasználóknak ne ajánljon olyan kifejezések keresését, amelyekről ismert, hogy szexuális visszaélésekkel hozhatók összefüggésbe. Azt is közölte, hogy dolgozik azon, hogy megakadályozza, hogy rendszerei potenciálisan pedofil felnőttek egymáshoz való kapcsolódását vagy egymás tartalmainak interakcióját ajánlják.
Alex Stamos, a Stanford Internet Observatory vezetője és 2018-ig a Meta biztonsági főnöke szerint még a nyilvánvaló visszaélések ellenőrzés alá vonása is valószínűleg tartós erőfeszítéseket igényel.
„Annak, hogy egy három akadémikusból álló, korlátozott hozzáféréssel rendelkező csapat ilyen hatalmas hálózatot találhat, riadalmat kell keltenie a Metánál” – mondta, megjegyezve, hogy a vállalat sokkal hatékonyabb eszközökkel rendelkezik a pedofilhálózat feltérképezésére, mint a kívülállók. „Remélem, hogy a vállalat újra befektet az emberi nyomozókba” – tette hozzá.
A technikai és jogi akadályok miatt a hálózat teljes méretének meghatározása nehéz bárki számára a Metán kívül pontosan felmérni.
Mivel a gyermekszexuális tartalmakkal kapcsolatos törvények rendkívül széleskörűek, még a nyilvános platformon történő nyílt népszerűsítésük vizsgálata is jogi szempontból kényes kérdés.
A Journal tudósítása során konzultált az online gyermekbiztonsággal foglalkozó tudományos szakértőkkel. A Stanford Internet Observatory, az egyetem Cyber Policy Centerének a közösségi médiával való visszaélésekre összpontosító részlege független mennyiségi elemzést készített az Instagram azon funkcióiról, amelyek segítik a felhasználók kapcsolatteremtését és a tartalomkeresést.
A Journal megkereste az UMass Rescue Lab-et is, amely azt értékelte, hogy az Instagramon megjelenő pedofilok hogyan illeszkednek az online gyermekkizsákmányolás tágabb világába. Különböző módszereket alkalmazva mindkét szervezet gyorsan azonosítani tudta a bűnös szexuális visszaéléseket népszerűsítő nagyméretű közösségeket.
A kutatók által létrehozott tesztfiókok, amelyek egyetlen fiókot tekintettek meg a hálózatban, azonnal „neked ajánlott” ajánlásokkal találkoztak állítólagos gyermekszexuális tartalmakat eladók és vásárlók, valamint a platformon kívüli tartalomkereskedelmi oldalakra mutató fiókok között. Elég volt csupán néhány ilyen ajánlás követése ahhoz, hogy a tesztfiókot elárasszák a gyermekeket szexualizáló tartalmakkal.
A Stanford Internet Observatory a kiskorúak szexével kapcsolatos hashtagek segítségével 405 olyan eladót talált, akik a kutatók szerint „saját maguk által generált” gyermekszexuális anyagokat értékesítettek – vagyis olyan fiókokat, amelyeket állítólag maguk a gyermekek vezettek, egyesek szerint akár 12 éves korukban. A Maltego hálózattérképező szoftver segítségével gyűjtött adatok szerint 112 ilyen eladói fióknak együttesen 22 000 egyedi követője volt.
A kiskorúaknak szóló szexuális tartalmak készítői és vásárlói csak egy szegletét képezik a szexualizált gyermektartalmaknak szentelt nagyobb ökoszisztémának. Az Instagram pedofil közösségének más fiókjai pedofíliapárti mémeket aggregálnak, vagy a gyerekekhez való hozzáférésüket vitatják meg. Az Instagram gyermekbiztonsági kezdeményezéseivel foglalkozó jelenlegi és korábbi Meta-alkalmazottak becslései szerint az elsősorban ilyen tartalmak követésére létező fiókok száma több százezerre, ha nem millióra tehető.
A Meta szóvivője szerint a vállalat aktívan törekszik az ilyen felhasználók eltávolítására, csak januárban 490 000 fiókot távolítottak el a gyermekbiztonsági irányelvek megsértése miatt.
„Az Instagram egy feljáró az internet olyan helyeihez, ahol még egyértelműbb a gyermekek szexuális zaklatása” – mondta Brian Levine, az UMass Rescue Lab igazgatója, amely az online gyermekáldozatok kutatásával és az ellenük való küzdelemhez szükséges törvényszéki eszközök készítésével foglalkozik. Levine az Igazságügyi Minisztérium kutatási részlege, a National Institute of Justice számára készített 2022-es, az internetes gyermekkizsákmányolásról szóló jelentés egyik szerzője.
Az Instagram, amelynek becslések szerint több mint 1,3 milliárd felhasználója van, különösen népszerű a tizenévesek körében. A stanfordi kutatók más, kisebb közösségi platformokon is találtak hasonló szexuális kizsákmányoló tevékenységet, de elmondásuk szerint az Instagramon különösen súlyos a probléma. „Úgy tűnik, hogy a vevők és eladók ezen hálózatainak legfontosabb platformja az Instagram” – írták a június 7-én megjelenő jelentésükben.
Az Instagram közölte, hogy belső statisztikái szerint a felhasználók 10 ezer megtekintett posztból kevesebb mint egy esetben látnak gyermekkizsákmányolást.
A közösségi médiaplatformok és a bűnüldöző szervek által a gyermekpornográfia online terjedése elleni küzdelemre tett erőfeszítések középpontjában nagyrészt a megerősített képek és videók, az úgynevezett gyermekekkel való szexuális visszaélést bemutató anyagok (Child Sexual Abuse Material, CSAM) vadászata áll, amelyekről már ismert, hogy forgalomban vannak. A National Center for Missing & Exploited Children, egy amerikai nonprofit szervezet, amely együttműködik a bűnüldöző szervekkel, az ilyen képek és videók digitális ujjlenyomatait tartalmazó adatbázist, valamint az ilyen adatok internetes cégek közötti megosztására szolgáló platformot tart fenn.
Az internetes cégek algoritmusai a platformjukon közzétett képek digitális ujjlenyomatait összevetik ezzel a listával, és jelentik a központnak, ha ilyeneket észlelnek, ahogyan azt az amerikai szövetségi törvények előírják. 2022-ben a központhoz 31,9 millió gyermekpornográfiai bejelentés érkezett, főként internetes cégektől – 47%-kal több, mint két évvel korábban.
A Meta, amelynek több mint 3 milliárd felhasználója van az alkalmazásaiban, amelyek közé tartozik az Instagram, a Facebook és a WhatsApp, képes felismerni az ilyen típusú ismert képeket, ha azok nincsenek titkosítva. A központhoz benyújtott gyermekpornográfiai bejelentések 85%-át a Meta tette meg, köztük mintegy 5 milliót az Instagramról.
A Meta meglévő gyermekkizsákmányoló tartalmakra vonatkozó automatikus szűrése nem képes felismerni az új képeket vagy az értékesítésük reklámozására irányuló erőfeszítéseket. Az ilyen tevékenységek megelőzése és felderítése nemcsak a felhasználói jelentések felülvizsgálatát, hanem a pedofil hálózatok nyomon követését és megszakítását is igényli – állítják a jelenlegi és korábbi munkatársak, valamint a Stanford kutatói. A cél az, hogy megnehezítsék az ilyen felhasználók számára a kapcsolatteremtést, a tartalomkeresést és az áldozatok toborzását.
Az ilyen munka létfontosságú, mivel a bűnüldöző szervek nem rendelkeznek elegendő erőforrással ahhoz, hogy az NCMEC-hez beérkező tippek csak egy kis töredékét vizsgálják ki – mondta Levine az UMassról. Ez azt jelenti, hogy a platformok elsődleges felelőssége, hogy megakadályozzák egy közösség kialakulását és a gyermekek szexuális zaklatásának normalizálását.
A Meta más platformoknál jobban küzdött ezekkel az erőfeszítésekkel, mind a gyenge végrehajtás, mind pedig az olyan tervezési jellemzők miatt, amelyek elősegítik a legális és a tiltott anyagok tartalmi felfedezését – állapította meg a Stanford.
A stanfordi csapat 128 olyan fiókot talált, amelyek gyermekekkel kapcsolatos szexuális visszaélésekkel kapcsolatos anyagok értékesítését kínálták a Twitteren, ami kevesebb mint harmada annak a számnak, amelyet az Instagramon találtak, amely sokkal nagyobb teljes felhasználói bázissal rendelkezik, mint a Twitter. A Twitter nem ajánlotta az ilyen fiókokat olyan mértékben, mint az Instagram, és sokkal gyorsabban le is szüntette őket, állapította meg a csapat.
A fiatalok körében népszerű egyéb platformok közül a Snapchatet elsősorban a közvetlen üzenetküldésre használják, így nem segít a hálózatok kialakításában. A TikTok pedig olyan platform, ahol „úgy tűnik, hogy az ilyen típusú tartalmak nem terjednek el” – áll a stanfordi jelentésben.
A Twitter nem reagált a kommentárra vonatkozó megkeresésekre. A TikTok és a Snapchat nem kívánt nyilatkozni.
David Thiel, a Stanford Internet Observatory vezető technológusa szerint „az Instagram problémája a tartalomfelfedező funkciókban, a témák ajánlásának módjában és abban rejlik, hogy a platform mennyire támaszkodik a keresésre és a fiókok közötti linkekre” Thiel, aki korábban a Metánál dolgozott biztonsági és védelmi kérdéseken, hozzátette: „Korlátokat kell felállítani ahhoz, hogy egy ilyen növekedésintenzív dolog még névlegesen biztonságos legyen, és az Instagram nem tette ezt meg” .
A platform egy alapvető technológia felügyeletével küzdött: a kulcsszavakkal. A hashtagek központi részét képezik az Instagramon a tartalomfelfedezésnek, lehetővé téve a felhasználók számára, hogy egy adott közösséget érdeklő posztokat jelöljenek meg és találjanak meg – az olyan tág témáktól kezdve, mint a #divat vagy az #nba, egészen az olyan szűkebb témákig, mint a #hímzés vagy a #spelunking.
A Stanford Internet Observatory által készített képernyőképen látható a figyelmeztetés és az átkattintási lehetőség, amikor pedofíliával kapcsolatos hashtagre keresnek az Instagramon. Kép: Stanford Internet Observatory
A pedofiloknak is megvannak a maguk választott hashtagjei. Az olyan keresőkifejezések, mint a #pedobait és a #mnsfw („minor not safe for work”) variációi több ezer olyan posztot jelöltek meg, amelyek a gyerekeket ábrázoló szexuális tartalmak reklámozására szántak, így a vásárlók könnyen megtalálhatták őket – állapították meg az akadémiai kutatók. A Journal megkeresésére a Meta közölte, hogy folyamatban van az ilyen kifejezések betiltása.
Az Instagram sok esetben engedélyezte a felhasználóknak, hogy olyan kifejezésekre keressenek, amelyekről saját algoritmusai tudják, hogy illegális anyagokkal hozhatók kapcsolatba. Ilyen esetekben egy felugró képernyő figyelmeztette a felhasználókat, hogy „Ezek a találatok gyermekek szexuális zaklatását ábrázoló képeket tartalmazhatnak”, és megjegyezte, hogy az ilyen anyagok előállítása és fogyasztása „rendkívüli károkat” okoz a gyermekeknek. A képernyő két lehetőséget kínált a felhasználóknak: „Források beszerzése” és „Az eredmények megtekintése egyébként”
A Journal kérdéseire válaszolva az Instagram eltávolította a felhasználók számára a valószínűleg illegális képeket eredményező kifejezésekre vonatkozó keresési eredmények megtekintésének lehetőségét. A vállalat nem volt hajlandó megmondani, hogy miért ajánlotta fel a lehetőséget.
A pedofil fiókok az Instagramon keverik a szemtelenséget a tevékenységük elfedésére tett felszínes erőfeszítésekkel – állapították meg a kutatók. Bizonyos emojik egyfajta kódként működnek, például egy térkép képe – a „kiskorúak által vonzott személy” rövidítése – vagy a „sajtos pizza” képe, amelynek kezdőbetűi megegyeznek a „gyermekpornográfiával” – állítja Levine, az UMass munkatársa. Sokan kijelentik, hogy „az élet apró dolgainak szerelmesei”
A fiókok „eladó” vagy „s3ller” néven azonosítják magukat, és sokan az életrajzukban feltüntetik a fizetés preferált formáját. Ezek az eladói fiókok gyakran közlik a gyermek állítólagos életkorát azzal, hogy „a 14. fejezetben” vagy „31 éves”, amit egy fordított nyilat ábrázoló emoji követ.
Az UMass munkatársa, Levine szerint a számlák némelyike a szexkereskedelemre utaló jeleket tartalmazott, például az egyikben egy tinédzsert ábrázoltak, akinek az arcára a WHORE szót firkálták.
Néhány felhasználó, aki azt állítja, hogy saját készítésű szexuális tartalmakat árul, azt állítja, hogy „arctalan” – csak nyaktól lefelé kínál képeket -, mert korábbi tapasztalataik szerint a vevők zaklatták vagy megzsarolták őket. Mások vállalják a kockázatot, és felárat kérnek olyan képekért és videókért, amelyeken az arcuk megmutatásával felfedhetik a személyazonosságukat.
A fiókok közül sok felhasználónak vágási sebhely van a karja vagy a combja belső oldalán, és többen közülük korábbi szexuális visszaélésekre hivatkoznak.
Az Instagram pedofil közösségébe tartozó fiókkal való pillantás is kiválthatja, hogy a platform elkezdi ajánlani a felhasználóknak, hogy csatlakozzanak hozzá.
Sarah Adams, egy kétgyermekes kanadai anya olyan Instagram-közönséget épített ki, amely a gyermekek kizsákmányolásáról és a közösségi médiában való túlzott megosztás veszélyeiről értekezik. Tekintettel a fókuszára, Adams követői néha olyan zavaró dolgokat küldenek neki, amelyekkel a platformon találkoztak. Februárban, elmondása szerint, az egyik üzenetet küldött neki egy „vérfertőző kisgyerekek” kifejezéssel fémjelzett fiókról
Adams elmondta, hogy csak arra a néhány másodpercre lépett be a fiókba – egy több mint 10 000 követővel rendelkező, vérfertőzéspárti mémek gyűjteményébe -, amíg jelentette az Instagramnak, majd megpróbált megfeledkezni róla. De a következő napokban elkezdett hallani elborzadt szülőktől. Amikor megnézték Adams Instagram-profilját, azt mondta, hogy „vérfertőző kisgyerekeket” ajánlottak nekik Adams fiókkal való kapcsolata miatt.
A Meta szóvivője azt mondta, hogy a „vérfertőző kisgyerekek” megsértették a szabályait, és az Instagram hibázott a végrehajtásnál. A vállalat közölte, hogy az ilyen nem megfelelő ajánlásokkal az új gyermekbiztonsági munkacsoportja keretében tervezi foglalkozni.
A legtöbb közösségi médiaplatformhoz hasonlóan az Instagram ajánlásainak lényege a viselkedési mintákon alapul, nem pedig a felhasználó érdeklődési körének meghatározott témákhoz való illesztésén. Ez a megközelítés hatékonyan növeli az ajánlások relevanciáját, és a legmegbízhatóbban a szűk érdeklődési körrel rendelkező közösségek esetében működik.
Elméletileg az Instagram pedofil közösségének ugyanez a szűkössége megkönnyítené az Instagram számára a hálózat feltérképezését és a leküzdésére irányuló lépések megtételét. A Journal által korábban átnézett dokumentumokból kiderül, hogy a Meta a múltban is végzett ilyen jellegű munkát az általa károsnak ítélt fiókhálózatok elnyomása érdekében, például az Egyesült Államokban a választások delegitimálását elősegítő fiókokkal a január 6-i Capitoliumi zavargások után.
Más platformokhoz hasonlóan az Instagram is azt mondja, hogy a felhasználók segítségét veszi igénybe a szabályokat megszegő fiókok felderítéséhez. Ezek az erőfeszítések azonban nem mindig voltak hatékonyak.
Néha a gyermekeket érintő meztelenségről szóló felhasználói bejelentések hónapokig megválaszolatlanok maradtak – derül ki a tavalyi év során számos gyermekvédelmi aktivista által benyújtott több tucatnyi bejelentés áttekintéséből.
Az év elején egy pedofilellenes aktivista felfedezett egy Instagram-fiókot, amely azt állította, hogy egy lányé, aki kiskorúaknak szóló szexuális tartalmakat árult, többek között egy olyan posztot, amely kijelentette: „Ez a tini készen áll a perverzekre” Amikor az aktivista jelentette a fiókot, az Instagram egy automatizált üzenettel válaszolt: „A hozzánk érkező jelentések nagy száma miatt a csapatunk nem tudta átnézni ezt a bejegyzést”
Miután ugyanez az aktivista egy másik posztot is jelentett, ezúttal egy hiányos öltözetű fiatal lányt ábrázolt grafikusan szexuális felirattal, az Instagram így válaszolt: „A felülvizsgálati csapatunk úgy találta, hogy [a fiók] posztja nem sérti a közösségi irányelveinket” A válasz azt javasolta, hogy a felhasználó rejtse el a fiókot, hogy ne lássa a tartalmát.
A Meta szóvivője elismerte, hogy a Meta megkapta a jelentéseket, de nem tett lépéseket. A szóvivő szerint annak felülvizsgálata során, hogy a vállalat hogyan kezelte a gyermekek szexuális zaklatásáról szóló bejelentéseket, kiderült, hogy egy szoftverhiba miatt a felhasználói bejelentések jelentős része nem került feldolgozásra, és hogy a vállalat moderátorai nem megfelelően érvényesítették a platform szabályait. A vállalat közölte, hogy azóta kijavította a hibát a jelentési rendszerében, és új képzést biztosít a tartalommoderátoroknak.
Még ha az Instagram le is szünteti a kiskorúaknak szóló szexuális tartalmakat értékesítő fiókokat, azok nem mindig maradnak távol.
A platform belső irányelvei szerint a közösségi normák megsértéséért kiszabott büntetések általában a fiókokra, nem pedig a felhasználókra vagy az eszközökre vonatkoznak. Mivel az Instagram lehetővé teszi a felhasználók számára, hogy több összekapcsolt fiókot futtassanak, a rendszer megkönnyíti az értelmes végrehajtás kijátszását. A felhasználók rendszeresen feltüntetik a „tartalék” fiókok kezelőszámait az életrajzukban, ami lehetővé teszi számukra, hogy egyszerűen folytassák a posztolást ugyanannak a követői körnek, ha az Instagram eltávolítja őket.
Egyes esetekben az Instagram ajánlási rendszerei közvetlenül aláássák a saját biztonsági személyzetének erőfeszítéseit. Miután a vállalat úgy döntött, hogy lecsap egy bizonyos, gyermekszexuális tartalmak továbbításáról hírhedt titkosított fájlszállító szolgáltatás linkjeire, az Instagram blokkolta a nevére irányuló kereséseket.
Az Instagram mesterséges intelligencia által vezérelt hashtag-javaslatai nem kapták meg az üzenetet. Annak ellenére, hogy nem volt hajlandó találatokat mutatni a szolgáltatás nevére, a platform automatikus kitöltési funkciója azt javasolta a felhasználóknak, hogy próbálják ki a név variációit a „boys” és a „CP” szavakkal kiegészítve.
A vállalat megpróbálta letiltani ezeket a hashtageket a Journal kérdéseire adott válaszai közepette. Néhány napon belül azonban az Instagram ismét a szolgáltatás nevének új variációit ajánlotta, amelyek szintén állítólagos kiskorúaknak szóló szexuális tartalmakat árusító fiókokhoz vezettek.
Miután a vállalat kezdetben átfésülte a Stanford és a Journal által a tudomására hozott fiókokat, az UMass Levine utánanézett néhány fennmaradt kiskorúakat értékesítő fióknak az Instagramon. Mint korábban, ezek közül akár csak egynek a megtekintése is arra késztette az Instagramot, hogy újabbakat ajánljon. Az Instagram javaslatai segítettek újjáépíteni azt a hálózatot, amelyet a platform saját biztonsági munkatársai éppen megpróbáltak felszámolni.
A Meta szóvivője elmondta, hogy az ilyen ajánlásokat megakadályozó rendszerei jelenleg is épülnek. Levine elfogadhatatlannak nevezte az Instagram szerepét a pedofil tartalmak és fiókok népszerűsítésében.
„Húzzuk meg a vészféket” – mondta. „Megérik-e a gazdasági előnyök a gyerekeknek okozott károkat?”
Írjon Jeff Horwitznak a jeff.horwitz@wsj.com és Katherine Bluntnak a katherine.blunt@wsj.com címre
Eredetileg a Meryl’s COVID hírlevélben jelent meg
Suggest a correction
