Το WEF και οι εταίροι του ισχυρίζονται ότι εργάζονται για την παροχή “ψηφιακής ασφάλειας” – αλλά η WSJ μόλις μας έδειξε ότι η Meta κατευθύνει τους πελάτες της σε ιστοσελίδες σεξουαλικής κακοποίησης παιδιών
Όχι μόνο η εταιρία αποτελεί ένα τεράστιο πρόβλημα (θα παραθέσω το πλήρες κείμενο του άρθρου της WSJ), αλλά η “ψηφιακή ασφάλεια” είναι επίσης ένας ευφημισμός για τη λογοκρισία.
Ο αντίκτυπος της παροχής ψηφιακής ασφάλειας – σύμφωνα με το Παγκόσμιο Οικονομικό Φόρουμ
Φυσικά, τα ζητήματα με την ψηφιακή ταυτότητα και το διαβατήριο υγείας είναι:
- ότι θα προστεθούν ταχύτατα πρόσθετες λειτουργίες, θέτοντας τη ζωή σας και όλες τις συναλλαγές σας σε ένα συνδεδεμένο δίκτυο
- ότι τα διαδικτυακά δεδομένα σας μπορούν να κλαπούν (ιδίως τα δεδομένα υγείας και τα τραπεζικά σας δεδομένα)
- ότι τα χρήματά σας μπορούν να απενεργοποιηθούν ή να φορολογηθούν κατά βούληση
- ότι οι μετακινήσεις και οι αγορές σας μπορούν να περιοριστούν
- το δίκτυο φιλίας και οι συνεργάτες σας θα σημειώνονται και θα παρακολουθούνται
- η οικογένειά σας μπορεί να υποφέρει για συμπεριφορές που δεν αρέσουν στους ελεγκτές. Στην Κίνα, η βαθμολογία σας από την κοινωνική σας πίστωση καθορίζει αν μπορείτε να νοικιάσετε ή να αγοράσετε ακίνητο ή αν τα παιδιά σας μπορούν να πάνε σε καλό σχολείο, μου είπαν.
Αλλά για να το κάνουμε πιο κατανοητό: όλα αυτά αφορούν τα ανθρώπινα δικαιώματα.
Η αντιμετώπιση επιβλαβούς περιεχομένου στο διαδίκτυο αποτελεί ένα πολύπλοκο πρόβλημα. Αποτελεί συνεχή πρόκληση η καταπολέμηση της σεξουαλικής κακοποίησης και εκμετάλλευσης παιδιών, της τρομοκρατίας και της ρητορικής μίσους, της παραπληροφόρησης και του περιεχομένου που σχετίζεται με τον αυτοτραυματισμό και την αυτοκτονία.
Καθώς οι νέες τεχνολογίες καθίστανται διαθέσιμες, η ανάγκη εξισορρόπησης μεταξύ της ασφάλειας και της ιδιωτικής ζωής στον ψηφιακό κόσμο και της ελευθερίας της έκφρασης παραμένει ζωτικής σημασίας.
Η παροχή ασφαλών διαδικτυακών εμπειριών είναι απαραίτητη για τις παγκόσμιες επιχειρήσεις, τις ομάδες της κοινωνίας των πολιτών και τους ιδιώτες. Ο Παγκόσμιος Συνασπισμός για την Ψηφιακή Ασφάλεια του Παγκόσμιου Οικονομικού Φόρουμ, συγκεντρώνει μια διαφοροποιημένη ομάδα ηγετών για την επιτάχυνση της συνεργασίας δημόσιου και ιδιωτικού τομέα, για την αντιμετώπιση του επιβλαβούς περιεχομένου και της συμπεριφοράς στο διαδίκτυο.
Τα μέλη του συνασπισμού έχουν αναπτύξει τις Παγκόσμιες Αρχές για την Ψηφιακή Ασφάλεια, οι οποίες καθορίζουν τον τρόπο με τον οποίο τα ανθρώπινα δικαιώματα πρέπει να μεταφράζονται στον ψηφιακό κόσμο. Η ομάδα εργασίας του συνασπισμού περιλαμβάνει εκπροσώπους της Microsoft, της WeProtect Global Alliance, Meta, Amazon, Google, OHCHR (Γραφείο της Ύπατης Αρμοστείας του ΟΗΕ για τα Ανθρώπινα Δικαιώματα), Ofcom UK, Global Partners Digital.
Οι αρχές αναπτύχθηκαν μέσω διαβουλεύσεων με κυβερνήσεις και ρυθμιστικές αρχές, μεγάλες πλατφόρμες κοινωνικής δικτύωσης και τεχνολογίας, εταιρείες ασφάλειας τεχνολογίας και εκπροσώπους της κοινωνίας των πολιτών και της ακαδημαϊκής κοινότητας.
Οι αρχές θα χρησιμεύσουν ως οδηγός για όλους τους ενδιαφερόμενους φορείς στο ψηφιακό οικοσύστημα, για την προώθηση της ψηφιακής ασφάλειας σε πολιτικό, βιομηχανικό και κοινωνικό επίπεδο. Απαιτείται η συνεργασία μεταξύ κυβερνήσεων, εταιρειών και όσων συμμετέχουν σε πολιτικές και κοινωνικές πρωτοβουλίες, ώστε να διασφαλιστεί ότι θα υπάρξει αντίκτυπος στον πραγματικό κόσμο.
Συνοπτικά, οι αρχές περιλαμβάνουν:
- Όλοι οι υποστηρικτές θα πρέπει να συνεργάζονται για τη δημιουργία ενός ασφαλούς, αξιόπιστου και περιεκτικού διαδικτυακού περιβάλλοντος. [Συμπεριλαμβανομένων και τα πάντα για εσάς.-Nass]. Η πολιτική και η λήψη αποφάσεων θα πρέπει να γίνονται με βάση στοιχεία, ιδέες και διαφορετικές οπτικές. Η διαφάνεια είναι σημαντική και η καινοτομία θα πρέπει να ενθαρρύνεται.
- Οι υποστηρικτικές κυβερνήσεις θα πρέπει να κάνουν διάκριση μεταξύ παράνομου περιεχομένου και περιεχομένου που είναι νόμιμο αλλά μπορεί να είναι επιβλαβές και να διαφοροποιούν αναλόγως τα όποια ρυθμιστικά μέτρα, να διασφαλίζουν ότι ο νόμος και οι πολιτικές σέβονται και προστατεύουν όλα τα δικαιώματα των χρηστών. Θα πρέπει να στηρίζουν τα θύματα και τους επιζώντες της κακοποίησης ή σωματικής βλάβης .
- Οι υποστηρικτικοί πάροχοι διαδικτυακών υπηρεσιών θα πρέπει να δεσμευτούν ότι θα σέβονται τις ευθύνες για τα ανθρώπινα δικαιώματα και να σχεδιάσουν πολιτικές για να το διασφαλίσουν, να διασφαλίσουν ότι η ασφάλεια αποτελεί προτεραιότητα σε όλη την επιχείρηση και ότι ενσωματώνεται ως πρότυπο κατά τον σχεδιασμό των χαρακτηριστικών και της συνεργασίας με άλλους παρόχους διαδικτυακών υπηρεσιών. [ ΤΙ είναι τέλος πάντων αυτή η “ασφάλεια”;]
Οι αρχές αναγνωρίζουν επίσης ότι οι ομάδες της κοινωνίας των πολιτών και οι μη κυβερνητικές οργανώσεις διαδραματίζουν κρίσιμο ρόλο στην προώθηση της ψηφιακής ασφάλειας και την προαγωγή των ανθρωπίνων δικαιωμάτων- παρέχουν πολύτιμες πληροφορίες σχετικά με την απήχηση της διαδικτυακής ασφάλειας – και της διαδικτυακής ελευθερίας – στις κοινότητες και τα άτομα.
“Η προώθηση της ψηφιακής ασφάλειας είναι το κλειδί για την ενδυνάμωση των ανθρώπων ώστε να αξιοποιήσουν στο έπακρο τον ψηφιακό κόσμο. Αυτές οι αρχές δημιουργήθηκαν ως ένα θετικό βήμα προς τη δημιουργία μιας ασφαλέστερης ψηφιακής εμπειρίας για όλους και η Microsoft παραμένει προσηλωμένη στην εξεύρεση λύσεων, που θα επιτυγχάνουν αυτόν τον στόχο και θα σέβονται τα θεμελιώδη ανθρώπινα δικαιώματα.”
-Courtney Gregoire, Chief Digital Safety Officer, Microsoft
Οι αρχές λαμβάνουν υπόψη και επιδιώκουν να συμπληρώσουν υπάρχουσες αρχές, όπως οι Εθελοντικές Αρχές για την αντιμετώπιση της σεξουαλικής κακοποίησης και εκμετάλλευσης παιδιών στο διαδίκτυο, η Έκκληση του Christchurch για την εξάλειψη τρομοκρατικού και βίαιου εξτρεμιστικού περιεχομένου στο διαδίκτυο, οι Αρχές της Σάντα Κλάρα, οι αρχές Safety by Design του Australian eSafety Commissioner, το πλαίσιο βέλτιστων πρακτικών της Digital Trust & Safety Partnership και πολλές άλλες.
“Οι κυβερνήσεις, ο ιδιωτικός τομέας και η κοινωνία των πολιτών έχουν όλοι να διαδραματίσουν σημαντικό ρόλο στην πρόληψη της κακοποίησης και της εκμετάλλευσης στο διαδίκτυο, ιδίως όταν προστατεύουν τους πιο ευάλωτους στην κοινωνία. Αυτό το νέο σύνολο αρχών παρέχει ένα σημαντικό πλαίσιο για την αποτελεσματικότερη αντιμετώπιση διαδικτυακής κακοποίησης, συμπεριλαμβανομένου του δικού μας έργου για τον τερματισμό της σεξουαλικής κακοποίησης παιδιών στο διαδίκτυο.”
– Iain Drennan, εκτελεστικός διευθυντής, WeProtect Global Alliance
Η Meta (η νέα ονομασία του Facebook) ήταν σημαντικός εταίρος του WEF (βλ. παραπάνω) για την προώθηση της ψηφιακής ασφάλειας. Αντ’ αυτού όμως η Meta, στην οποία ανήκει και το Instagram, διευκόλυνε δίκτυα παιδεραστίας στην πλατφόρμα της, σύμφωνα με λεπτομερή έρευνα του προσωπικού του Παρατηρητηρίου Διαδικτύου του Στάνφορντ (και οι λογοκριτές αυτοί θα έπρεπε να το γνωρίζουν) και ενός καθηγητή του U Mass, καθώς και ειδικών στο ψηφιακό τοπίο, όπως ο Alex Stamos, ο οποίος ίδρυσε και διευθύνει το πρόγραμμα του Στάνφορντ. Η Wall Street Journal έκανε μια πολύ βαθιά έρευνα και δεν αφήνει κανένα περιθώριο στη Meta να ξεφύγει από αυτό. Δεδομένου ότι η WSJ βρίσκεται πίσω από ένα paywall, θα παραθέσω παρακάτω ολόκληρο το άρθρο από τις 7 Ιουνίου.
https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189
Το Instagram, ο δημοφιλής ιστότοπος κοινωνικής δικτύωσης που ανήκει στην Meta Platforms, βοηθά στη σύνδεση και την προώθηση ενός τεράστιου δικτύου λογαριασμών που είναι ανοιχτά αφιερωμένοι στην προμήθεια και την αγορά περιεχομένου σεξουαλικού περιεχομένου για ανηλίκους, σύμφωνα με έρευνες της Wall Street Journal και ερευνητών του Πανεπιστημίου του Στάνφορντ και του Πανεπιστημίου της Μασαχουσέτης Amherst.
Οι παιδόφιλοι χρησιμοποιούν εδώ και καιρό το διαδίκτυο, αλλά σε αντίθεση με τα φόρουμ και τις υπηρεσίες μεταφοράς αρχείων που απευθύνονται σε άτομα που έχουν ενδιαφέρον για παράνομο περιεχόμενο, το Instagram δεν φιλοξενεί απλώς αυτές τις δραστηριότητες. Οι αλγόριθμοί του τις προωθούν. Το Instagram συνδέει τους παιδόφιλους και τους καθοδηγεί σε πωλητές περιεχομένου μέσω συστημάτων συστάσεων που διακρίνονται για τη σύνδεση όσων μοιράζονται εξειδικευμένα ενδιαφέροντα, διαπίστωσαν το Journal και οι ακαδημαϊκοί ερευνητές.
Αν και για τους περισσότερους στην πλατφόρμα δεν είναι ορατοί, οι σεξουαλικοί λογαριασμοί στο Instagram είναι θρασύτατοι όσον αφορά το ενδιαφέρον τους. Οι ερευνητές διαπίστωσαν ότι το Instagram επέτρεψε στους ανθρώπους να αναζητήσουν ρητά hashtags όπως #pedowhore και #preteensex και τους συνέδεσε με λογαριασμούς που χρησιμοποιούσαν τους όρους για να διαφημίσουν υλικό παιδικού σεξ προς πώληση. Τέτοιοι λογαριασμοί συχνά ισχυρίζονται ότι διευθύνονται από τα ίδια τα παιδιά και χρησιμοποιούν απροκάλυπτες σεξουαλικές ετικέτες που ενσωματώνουν λέξεις όπως “μικρή τσούλα για σένα.”
Οι λογαριασμοί του Instagram που προσφέρουν την πώληση παράνομου σεξουαλικού υλικού, γενικά δεν το δημοσιεύουν ανοιχτά, αλλά δημοσιεύουν “μενού” περιεχομένου. Ορισμένοι λογαριασμοί καλούν τους αγοραστές να αναθέσουν συγκεκριμένες πράξεις. Ορισμένα μενού περιλαμβάνουν τιμές για βίντεο με παιδιά που βλάπτουν τον εαυτό τους και “εικόνες του ανηλίκου που εκτελεί σεξουαλικές πράξεις με ζώα”, όπως διαπίστωσαν ερευνητές του Παρατηρητηρίου Διαδικτύου του Στάνφορντ. Στη σωστή τιμή, τα παιδιά είναι διαθέσιμα για προσωπικές “συναντήσεις”. Η προώθηση του περιεχομένου που αφορά το σεξ ανηλίκων παραβιάζει τους κανόνες που έχουν θεσπιστεί από τη Meta καθώς και την ομοσπονδιακή νομοθεσία.
Απαντώντας σε ερωτήσεις της εφημερίδας, η Meta αναγνώρισε προβλήματα στο πλαίσιο των εργασιών επιβολής της και δήλωσε ότι έχει συστήσει μια εσωτερική ομάδα εργασίας για την αντιμετώπιση των ζητημάτων που αναφέρθηκαν. “Η εκμετάλλευση των παιδιών είναι ένα φρικτό έγκλημα”, δήλωσε η εταιρεία και πρόσθεσε: “Ερευνούμε συνεχώς τρόπους για να αμυνθούμε ενεργά εναντίον αυτής της συμπεριφοράς.”
Η Meta δήλωσε ότι τα τελευταία δύο χρόνια έχει καταργήσει 27 δίκτυα παιδεραστίας και σχεδιάζει να καταργήσει περισσότερες. Από τότε που έλαβε τα ερωτήματα της Journal, η πλατφόρμα δήλωσε ότι έχει μπλοκάρει χιλιάδες hashtags που σεξουαλικοποιούν παιδιά, ορισμένα με εκατομμύρια αναρτήσεις, και περιόρισε τα συστήματά της να συστήνουν στους χρήστες όρους αναζήτησης που είναι γνωστό ότι σχετίζονται με σεξουαλική κακοποίηση. Είπε επίσης ότι εργάζεται για να αποτρέψει τα συστήματά της από το να συνιστούν εν δυνάμει παιδόφιλους ενήλικες να συνδέονται μεταξύ τους ή να αλληλεπιδρούν ο ένας με το περιεχόμενο του άλλου.
Ο Άλεξ Στάμος, επικεφαλής του Παρατηρητηρίου Διαδικτύου του Στάνφορντ και επικεφαλής ασφαλείας της Meta μέχρι το 2018, δήλωσε ότι για να τεθεί υπό έλεγχο ακόμη και η προφανής κακοποίηση θα χρειαζόταν πιθανώς συνεχής προσπάθεια.
“Το γεγονός ότι μια ομάδα τριών ακαδημαϊκών με περιορισμένη πρόσβαση θα μπόρεσε να βρει ένα τόσο τεράστιο δίκτυο θα πρέπει να σημάνει συναγερμό στη Meta”, δήλωσε, σημειώνοντας ότι η εταιρεία διαθέτει πολύ πιο αποτελεσματικά εργαλεία για να χαρτογραφήσει το δίκτυο παιδεραστίας της από ό,τι οι επισκέπτες. “Ελπίζω η εταιρεία να επανεπενδύσει σε ανθρώπινους ερευνητές”, πρόσθεσε.
Τεχνικά και νομικά εμπόδια καθιστούν τον προσδιορισμό της πλήρους κλίμακας του δικτύου δύσκολο για οποιονδήποτε εκτός της Meta να το μετρήσει με ακρίβεια.
Επειδή οι νόμοι γύρω από το περιεχόμενο που αφορά το παιδικό σεξ είναι εξαιρετικά ευρείς, η διερεύνηση ακόμη και της ανοιχτής προώθησής του σε μια δημόσια πλατφόρμα είναι νομικά ευαίσθητη.
Σην αναφορά της, η εφημερίδα συμβουλεύτηκε ακαδημαϊκούς εμπειρογνώμονες σε θέματα ασφάλειας των παιδιών στο διαδίκτυο. Το Παρατηρητήριο Διαδικτύου του Στάνφορντ, ένα τμήμα του Κέντρου Πολιτικής του Κυβερνοχώρου του πανεπιστημίου που επικεντρώνεται στην κακοποίηση στα μέσα κοινωνικής δικτύωσης, παρήγαγε μια ανεξάρτητη ποσοτική ανάλυση των χαρακτηριστικών του Instagram που βοηθά τους χρήστες να συνδέονται και να βρίσκουν περιεχόμενο.
Η εφημερίδα προσέγγισε επίσης το UMass’s Rescue Lab, το οποίο αξιολόγησε τον τρόπο με τον οποίο οι παιδόφιλοι στο Instagram εντάσσονται στον ευρύτερο κόσμο της διαδικτυακής εκμετάλλευσης παιδιών. Χρησιμοποιώντας διαφορετικές μεθόδους, και οι δύο οργανώσεις ήταν σε θέση να εντοπίσουν γρήγορα κοινότητες μεγάλης κλίμακας που προωθούν την εγκληματική σεξουαλική κακοποίηση.
Οι δοκιμαστικοί λογαριασμοί που δημιούργησαν οι ερευνητές και οι οποίοι έβλεπαν έναν μόνο λογαριασμό στο δίκτυο, χτυπήθηκαν αμέσως με συστάσεις “προτεινόμενος για εσάς” από υποτιθέμενους πωλητές και αγοραστές περιεχομένου παιδικού σεξ, καθώς και λογαριασμούς που συνδέονταν με ιστοσελίδες εμπορίας περιεχομένου εκτός πλατφόρμας. Ακολουθώντας μερικές από αυτές τις συστάσεις ήταν αρκετό για να πλημμυρίσει ένας δοκιμαστικός λογαριασμός με περιεχόμενο που σεξουαλικοποιεί παιδιά.
Το Παρατηρητήριο Διαδικτύου του Στάνφορντ χρησιμοποίησε hashtags που σχετίζονται με το σεξ ανηλίκων, για να βρει 405 πωλητές αυτού που οι ερευνητές χαρακτήρισαν “αυτο-παραγόμενο” υλικό παιδικού σεξ – ή λογαριασμούς που φέρονται να διαχειρίζονται τα ίδια τα παιδιά, ορισμένα από τα οποία δήλωσαν ότι ήταν μόλις 12 ετών. Σύμφωνα με τα στοιχεία που συγκεντρώθηκαν μέσω του Maltego, ενός λογισμικού χαρτογράφησης δικτύων, 112 από αυτούς τους λογαριασμούς πωλητών είχαν συνολικά 22.000 μοναδικούς ακόλουθους.
Οι δημιουργοί και οι αγοραστές περιεχομένου σεξ για ανηλίκους είναι μόνο μια γωνιά ενός ευρύτερου οικοσυστήματος αφιερωμένου στο σεξουαλικό παιδικό περιεχόμενο. Άλλοι λογαριασμοί της κοινότητας των παιδόφιλων στο Instagram συγκεντρώνουν memes υπέρ της παιδοφιλίας ή συζητούν την πρόσβασή τους σε παιδιά. Τρέχοντες και πρώην υπάλληλοι της Meta που έχουν εργαστεί σε πρωτοβουλίες για την ασφάλεια των παιδιών στο Instagram εκτιμούν ότι ο αριθμός των λογαριασμών που υπάρχουν κυρίως για να ακολουθούν τέτοιο περιεχόμενο ανέρχεται σε εκατοντάδες χιλιάδες, αν όχι εκατομμύρια.
Εκπρόσωπος της Meta δήλωσε ότι η εταιρεία επιδιώκει ενεργά την απομάκρυνση τέτοιων χρηστών, αφαιρώντας 490.000 λογαριασμούς για παραβίαση των πολιτικών της για την ασφάλεια των παιδιών μόνο τον Ιανουάριο.
“Το Instagram είναι μια ράμπα εισόδου σε μέρη του διαδικτύου όπου υπάρχει πιο σαφής σεξουαλική κακοποίηση παιδιών”, δήλωσε ο Brian Levine, διευθυντής του UMass Rescue Lab, το οποίο ερευνά τη διαδικτυακή θυματοποίηση παιδιών και κατασκευάζει δικαστικά μέσα για την καταπολέμησή της. Ο Levine είναι συγγραφέας μιας έκθεσης του 2022 για το Εθνικό Ινστιτούτο Δικαιοσύνης, ερευνητικό μέλος του Υπουργείου Δικαιοσύνης, σχετικά με την εκμετάλλευση παιδιών στο διαδίκτυο.
Το Instagram, που εκτιμάται ότι έχει περισσότερους από 1,3 δισεκατομμύρια χρήστες, είναι ιδιαίτερα δημοφιλές στους εφήβους. Οι ερευνητές του Στάνφορντ διαπίστωσαν κάποια παρόμοια δραστηριότητα σεξουαλικής εκμετάλλευσης σε άλλες, μικρότερες κοινωνικές πλατφόρμες, αλλά όπως είπαν διαπίστωσαν ότι το πρόβλημα στο Instagram είναι ιδιαίτερα σοβαρό. “Η πιο σημαντική πλατφόρμα για αυτά τα δίκτυα αγοραστών και πωλητών φαίνεται να είναι το Instagram”, έγραψαν σε μια έκθεση που αναμένεται να κυκλοφορήσει στις 7 Ιουνίου.
Το Instagram δήλωσε ότι τα εσωτερικά στατιστικά του στοιχεία δείχνουν ότι οι χρήστες βλέπουν εκμετάλλευση παιδιών σε λιγότερο από μία στις 10 χιλιάδες αναρτήσεις που προβλήθηκαν.
Η προσπάθεια των πλατφόρμων κοινωνικής δικτύωσης και των διωκτικών αρχών για την καταπολέμηση της εξάπλωσης της παιδικής πορνογραφίας στο διαδίκτυο επικεντρώνεται σε μεγάλο βαθμό στο κυνήγι επιβεβαιωμένων εικόνων και βίντεο, γνωστών ως υλικό σεξουαλικής κακοποίησης παιδιών ή CSAM, τα οποία είναι ήδη γνωστό ότι κυκλοφορούν. Το National Center for Missing & Exploited Children, ένας αμερικανικός μη κερδοσκοπικός οργανισμός που συνεργάζεται με τις αρχές επιβολής του νόμου, διατηρεί μια βάση δεδομένων με ψηφιακά αποτυπώματα για τέτοιες εικόνες και βίντεο και μια πλατφόρμα για την ανταλλαγή τέτοιων δεδομένων μεταξύ των εταιρειών του διαδικτύου.
Οι αλγόριθμοι εταιρειών του διαδικτύου ελέγχουν τα ψηφιακά αποτυπώματα των εικόνων που αναρτώνται στις πλατφόρμες τους με βάση τον εν λόγω κατάλογο και το αναφέρουν στο κέντρο όταν τα εντοπίζουν, όπως απαιτεί ο ομοσπονδιακή νομοθεσία των ΗΠΑ. Το 2022, το κέντρο έλαβε 31,9 εκατομμύρια αναφορές παιδικής πορνογραφίας, κυρίως από εταιρείες του διαδικτύου -αυξημένες κατά 47% σε σχέση με δύο χρόνια νωρίτερα.
Η Meta, με περισσότερους από 3 δισεκατομμύρια χρήστες στις εφαρμογές της, στις οποίες περιλαμβάνονται το Instagram, το Facebook και το WhatsApp, είναι σε θέση να ανιχνεύσει τέτοιου είδους γνωστές εικόνες, εάν δεν είναι κρυπτογραφημένες. Η Meta αντιπροσώπευε το 85% των αναφορών παιδικής πορνογραφίας που υποβλήθηκαν στο κέντρο, συμπεριλαμβανομένων περίπου 5 εκατομμυρίων από το Instagram.
Ο αυτοματοποιημένος έλεγχος της Meta για το υπάρχον περιεχόμενο παιδικής εκμετάλλευσης δεν μπορεί να ανιχνεύσει νέες εικόνες ή προσπάθειες δημοσιοποίησης της πώλησης τους. Η πρόληψη και η ανίχνευση τέτοιων δραστηριοτήτων απαιτεί όχι μόνο την εξέταση των αναφορών των χρηστών, αλλά την παρακολούθηση και τη διακοπή των δικτύων παιδόφιλων, λένε νυν και πρώην εργαζόμενοι καθώς και οι ερευνητές του Στάνφορντ. Ο στόχος είναι να καταστεί δύσκολο για τους χρήστες αυτούς να συνδέονται μεταξύ τους, να βρίσκουν περιεχόμενο και να στρατολογούν θύματα.
Το έργο αυτό είναι ζωτικής σημασίας επειδή οι υπηρεσίες επιβολής του νόμου δεν διαθέτουν τους πόρους για να διερευνήσουν περισσότερο παρά ένα μικρό μέρος των πληροφοριών που λαμβάνει το NCMEC, δήλωσε ο Levine του UMass. Αυτό σημαίνει ότι οι πλατφόρμες έχουν την πρωταρχική ευθύνη στο να αποτρέψουν τη δημιουργία μιας κοινότητας που ομαλοποιεί τη σεξουαλική κακοποίηση παιδιών.
Η Meta έχει δυσκολευτεί περισσότερο από άλλες πλατφόρμες με αυτές τις προσπάθειες τόσο λόγω αδυναμίας επιβολής όσο και λόγω των χαρακτηριστικών σχεδιασμού που προωθούν την ανακάλυψη περιεχομένου, νόμιμου αλλά και παράνομου, όπως διαπίστωσε το Stanford.
Η ομάδα του Στάνφορντ εντόπισε 128 λογαριασμούς που προσέφεραν υλικό για την πώληση υλικού σεξουαλικής κακοποίησης παιδιών στο Twitter, λιγότερο από το ένα τρίτο του αριθμού που βρήκαν στο Instagram, το οποίο έχει πολύ μεγαλύτερη συνολική βάση χρηστών από το Twitter. Το Twitter δεν συνιστούσε τέτοιους λογαριασμούς στον ίδιο βαθμό με το Instagram και τους κατέβασε πολύ πιο γρήγορα, διαπίστωσε η ομάδα.
Μεταξύ άλλων πλατφορμών που είναι δημοφιλείς στους νέους, το Snapchat χρησιμοποιείται κυρίως για την άμεση ανταλλαγή μηνυμάτων, οπότε δεν βοηθά στη δημιουργία δικτύων. Και η πλατφόρμα του TikTok είναι μια πλατφόρμα όπου “αυτού του είδους το περιεχόμενο δεν φαίνεται να πολλαπλασιάζεται”, αναφέρει η έκθεση του Στάνφορντ.
Το Twitter δεν απάντησε σε αιτήματα για σχόλια. Το TikTok και το Snapchat αρνήθηκαν να σχολιάσουν.
Ο David Thiel, επικεφαλής τεχνολόγος στο Παρατηρητήριο Διαδικτύου του Στάνφορντ, δήλωσε: “Το πρόβλημα του Instagram έγκειται στις λειτουργίες ανακάλυψης περιεχομένου, στους τρόπους με τους οποίους συνιστώνται θέματα και στο βαθμό που η πλατφόρμα βασίζεται στην αναζήτηση και στους συνδέσμους μεταξύ λογαριασμών.” Ο Thiel, ο οποίος στο παρελθόν εργαζόταν στη Meta σε θέματα ασφάλειας και προστασίας, πρόσθεσε: “Πρέπει να βάλεις προστατευτικά κιγκλιδώματα ώστε να εξακολουθεί να είναι ονομαστικά ασφαλές, κάτι που παρουσιάζει τέτοια εντατική αύξηση, και το Instagram δεν το έχει κάνει ”
Η πλατφόρμα δυσκολεύτηκε να επιβλέψει μια βασική τεχνολογία: τις λέξεις-κλειδιά. Τα hashtags αποτελούν κεντρικό μέρος της ανακάλυψης περιεχομένου στο Instagram, επιτρέποντας στους χρήστες να επισημαίνουν και να βρίσκουν αναρτήσεις που ενδιαφέρουν μια συγκεκριμένη κοινότητα – από ευρεία θέματα όπως το #fashion ή το #nba μέχρι πιο στενά όπως το #embroidery ή το #spelunking.
Ένα στιγμιότυπο οθόνης που ελήφθη από το Παρατηρητήριο Διαδικτύου του Στάνφορντ δείχνει την προειδοποίηση και την επιλογή κλικ κατά την αναζήτηση ενός hashtag που σχετίζεται με την παιδοφιλία στο Instagram. Φωτογραφία: Stanford Internet Observatory
Οι παιδόφιλοι έχουν κι αυτοί επιλεγμένα hashtags. Όροι αναζήτησης όπως το #pedobait και παραλλαγές του #mnsfw (“minor not safe for work”) είχαν χρησιμοποιηθεί για να επισημανθούν χιλιάδες αναρτήσεις αφιερωμένες στη διαφήμιση σεξουαλικού περιεχομένου με πρωταγωνιστές παιδιά, καθιστώντας τις εύκολα εντοπίσιμες από τους αγοραστές, διαπίστωσαν οι ακαδημαϊκοί ερευνητές. Μετά από ερωτήματα της εφημερίδας, η Meta δήλωσε ότι βρίσκεται στη διαδικασία απαγόρευσης τέτοιων όρων.
Σε πολλές περιπτώσεις, το Instagram έχει επιτρέψει στους χρήστες να αναζητούν όρους που οι δικοί του αλγόριθμοι γνωρίζουν ότι μπορεί να σχετίζονται με παράνομο υλικό. Σε τέτοιες περιπτώσεις, μια αναδυόμενη οθόνη προειδοποιούσε τους χρήστες ότι “Αυτά τα αποτελέσματα μπορεί να περιέχουν εικόνες σεξουαλικής κακοποίησης παιδιών” και σημείωνε ότι η παραγωγή και η κατανάλωση τέτοιου υλικού προκαλεί “ακραία βλάβη” στα παιδιά. Η οθόνη προσέφερε δύο επιλογές στους χρήστες: “Αποκτήστε μέσα” και “Δείτε τα αποτελέσματα ούτως ή άλλως”.
Σε απάντηση ερωτήσεων της Journal, το Instagram αφαίρεσε την επιλογή για των χρηστών να βλέπουν τα αποτελέσματα αναζήτησης για όρους που ενδέχεται να παράγουν παράνομες εικόνες. Η εταιρεία αρνήθηκε να πει γιατί είχε προσφέρει την επιλογή αυτή.
Οι παιδόφιλοι λογαριασμοί στο Instagram αναμειγνύουν τη θρασύτητα με επιφανειακές προσπάθειες να συγκαλύψουν τη δραστηριότητά τους, διαπίστωσαν οι ερευνητές. Ορισμένα emojis λειτουργούν ως ένα είδος κώδικα, όπως η εικόνα ενός χάρτη ( map)-συντομογραφία για “minor-attracted person“- ή το “cheese pizza”, το οποίο μοιράζεται τα αρχικά του με τον όρο “παιδική πορνογραφία (child pornography)“, σύμφωνα με τον Levine του UMass. Πολλοί δηλώνουν “lovers of the little things in life” (εραστές των μικρών πραγμάτων στη ζωή).
Οι λογαριασμοί αυτοπροσδιορίζονται ως “πωλητής” ή “s3ller” και πολλοί δηλώνουν στο βιογραφικό τους την προτιμώμενη μορφή πληρωμής. Αυτοί οι λογαριασμοί πωλητών συχνά μεταβιβάζουν την υποτιθέμενη ηλικία του παιδιού λέγοντας ότι είναι “στο κεφάλαιο 14” ή “ηλικίας 31”, ακολουθούμενο από ένα emoji ενός αντίστροφου βέλους.
Ορισμένοι από τους λογαριασμούς έφεραν ενδείξεις σεξουαλικής εμπορίας, δήλωσε ο Levine του UMass, όπως ένας που εμφανίζει μια έφηβη με τη λέξη WHORE γραμμένη στο πρόσωπό της.
Ορισμένοι χρήστες που ισχυρίζονται ότι πωλούν αυτοπαραγόμενο σεξουαλικό περιεχόμενο λένε ότι είναι “απρόσωποι” -προσφέροντας εικόνες μόνο από το λαιμό και κάτω- εξαιτίας προηγούμενων εμπειριών κατά τις οποίες οι πελάτες τους παρακολουθούσαν ή τους εκβίαζαν. Άλλοι αναλαμβάνουν το ρίσκο, χρεώνοντας ένα premium για εικόνες και βίντεο που θα μπορούσαν να αποκαλύψουν την ταυτότητά τους δείχνοντας το πρόσωπό τους.
Πολλοί από τους λογαριασμούς δείχνουν χρήστες με ουλές από κοψίματα στο εσωτερικό των χεριών ή των μηρών τους, και αρκετοί από αυτούς αναφέρουν σεξουαλική κακοποίηση στο παρελθόν.
Ακόμα και η φευγαλέα επαφή με έναν λογαριασμό στην κοινότητα παιδόφιλων του Instagram, μπορεί να ενεργοποιήσει την πλατφόρμα για να αρχίσει να προτείνει στους χρήστες τη συμμετοχή σε αυτόν.
Η Σάρα Άνταμς, μια Καναδή μητέρα δύο παιδιών, έχει δημιουργήσει ένα κοινό στο Instagram που συζητά την εκμετάλλευση παιδιών και τους κινδύνους της υπερβολικής κοινοποίησης στα μέσα κοινωνικής δικτύωσης. Δεδομένης της εστίας της, οι ακόλουθοι της Adams της στέλνουν μερικές φορές ενοχλητικά πράγματα που έχουν συναντήσει στην πλατφόρμα. Τον Φεβρουάριο, όπως είπε, κάποιος της έστειλε μήνυμα με έναν λογαριασμό που είχε σήμα του τον όρο “νήπια αιμομιξίας”.
Η Άνταμς είπε ότι απέκτησε πρόσβαση στον λογαριασμό -μια συλλογή από μιμίδια υπέρ της αιμομιξίας με περισσότερους από 10.000 ακόλουθους- μόνο για τα λίγα δευτερόλεπτα που χρειάστηκαν για να το αναφέρει στο Instagram και στη συνέχεια προσπάθησε να το ξεχάσει. Αλλά κατά τη διάρκεια των επόμενων ημερών, άρχισε να ακούει από τρομοκρατημένους γονείς. Όταν κοίταζαν το προφίλ της Adams στο Instagram, είπε ότι τους προτεινόταν το “νήπια αιμομιξίας” ως αποτέλεσμα της επαφής της Adams με τον λογαριασμό.
Ένας εκπρόσωπος της Meta δήλωσε ότι το “νήπια αιμομιξίας” παραβίαζε τους κανόνες και ότι το Instagram είχε κάνει λάθος στην εφαρμογή. Η εταιρεία δήλωσε ότι σχεδιάζει να αντιμετωπίσει τέτοιες ακατάλληλες συστάσεις στο πλαίσιο της νέας ομάδας εργασίας για την ασφάλεια των παιδιών.
Όπως συμβαίνει με τις περισσότερες πλατφόρμες κοινωνικής δικτύωσης, ο πυρήνας των συστάσεων του Instagram βασίζεται σε πρότυπα συμπεριφοράς και όχι στην αντιστοίχιση των ενδιαφερόντων ενός χρήστη με συγκεκριμένα θέματα. Αυτή η προσέγγιση είναι αποτελεσματική ως προς την αύξηση της συνάφειας των συστάσεων και λειτουργεί πιο αξιόπιστα για κοινότητες που μοιράζονται ένα στενό σύνολο ενδιαφερόντων.
Θεωρητικά, αυτή η ίδια στενότητα της κοινότητας των παιδόφιλων στο Instagram θα πρέπει να διευκολύνει το Instagram να χαρτογραφήσει το δίκτυο και να λάβει μέτρα για την καταπολέμησή του. Τα έγγραφα που εξέτασε προηγουμένως η Journal δείχνουν ότι η Meta έχει κάνει αυτού του είδους τη δουλειά στο παρελθόν για να καταστείλει τα δίκτυα λογαριασμών που θεωρεί επιβλαβή, όπως με λογαριασμούς που προωθούσαν την απονομιμοποίηση των εκλογών στις ΗΠΑ μετά την εξέγερση στο Καπιτώλιο στις 6 Ιανουαρίου.
Όπως και άλλες πλατφόρμες, το Instagram λέει ότι επιστρατεύει τους χρήστες του για να βοηθήσουν στον εντοπισμό λογαριασμών που παραβιάζουν τους κανόνες. Αλλά αυτές οι προσπάθειες δεν είναι πάντα αποτελεσματικές.
Μερικές φορές οι αναφορές χρηστών για γυμνό που αφορά ένα παιδί έμεναν αναπάντητες για μήνες, σύμφωνα με μια ανασκόπηση δεκάδων αναφορών που υποβλήθηκαν τον τελευταίο χρόνο από πολυάριθμους υποστηρικτές της ασφάλειας των παιδιών.
Νωρίτερα φέτος, ένας ακτιβιστής κατά των παιδόφιλων ανακάλυψε έναν λογαριασμό στο Instagram που ισχυριζόταν ότι ανήκε σε ένα κορίτσι και πουλούσε περιεχόμενο για ανήλικους με σεξουαλικό περιεχόμενο, συμπεριλαμβανομένης μιας ανάρτησης που δήλωνε: “Αυτός ο έφηβος είναι έτοιμος για εσάς τους ανώμαλους.” Όταν ο ακτιβιστής ανέφερε τον λογαριασμό, το Instagram απάντησε με ένα αυτοματοποιημένο μήνυμα που έλεγε: “Λόγω του μεγάλου όγκου αναφορών που λαμβάνουμε, η ομάδα μας δεν μπόρεσε να εξετάσει αυτή τη δημοσίευση.”
Όταν ο ίδιος ακτιβιστής ανέφερε μια άλλη ανάρτηση, αυτή με ένα λιτά ντυμένο νεαρό κορίτσι με μια γραφικά σεξουαλική λεζάντα, το Instagram απάντησε: “Η ομάδα μας για την επανεξέταση διαπίστωσε ότι η ανάρτηση [του λογαριασμού] δεν αντιβαίνει στις Οδηγίες της Κοινότητας.” Η απάντηση πρότεινε στον χρήστη να αποκρύψει τον λογαριασμό για να μην βλέπει το περιεχόμενό του.
Ένας εκπρόσωπος της Meta αναγνώρισε ότι η Meta είχε λάβει τις αναφορές και απέτυχε στο να ενεργήσει. Μια επανεξέταση του τρόπου με τον οποίο η εταιρεία χειριζόταν τις αναφορές σεξουαλικής κακοποίησης παιδιών διαπίστωσε ότι μια δυσλειτουργία του λογισμικού εμπόδιζε την επεξεργασία σημαντικού μέρους των αναφορών των χρηστών και ότι το προσωπικό συντονισμού της εταιρείας δεν εφάρμοζε σωστά τους κανόνες της πλατφόρμας, δήλωσε ο εκπρόσωπος. Η εταιρεία δήλωσε ότι έκτοτε διόρθωσε το σφάλμα στο σύστημα αναφορών της και παρέχει νέα εκπαίδευση στους συντονιστές περιεχομένου της.
Ακόμα και όταν το Instagram καταργεί λογαριασμούς πώλησης σεξουαλικού περιεχομένου για ανηλίκους, αυτοί δεν μένουν μακριά για πολύ.
Σύμφωνα με τις εσωτερικές κατευθυντήριες γραμμές της πλατφόρμας, οι κυρώσεις για την παραβίαση των προτύπων της κοινότητας επιβάλλονται γενικά σε λογαριασμούς και όχι σε χρήστες ή συσκευές. Επειδή το Instagram επιτρέπει στους χρήστες να διαχειρίζονται πολλαπλούς συνδεδεμένους λογαριασμούς, το σύστημα καθιστά εύκολη την αποφυγή ουσιαστικής επιβολής. Οι χρήστες αναγράφουν τακτικά τις ονομασίες των “εφεδρικών” λογαριασμών στα βιογραφικά τους, επιτρέποντάς τους να συνεχίσουν απλώς να δημοσιεύουν στο ίδιο σύνολο ακολούθων, εάν το Instagram τους αφαιρέσει.
Σε ορισμένες περιπτώσεις, τα συστήματα συστάσεων του Instagram υπονομεύουν άμεσα τις προσπάθειες του προσωπικού ασφαλείας του. Όταν η εταιρεία αποφάσισε να πατάξει τους συνδέσμους από μια συγκεκριμένη κρυπτογραφημένη υπηρεσία μεταφοράς αρχείων, διαβόητη για τη μετάδοση περιεχομένου παιδικού σεξ, το Instagram μπλόκαρε τις αναζητήσεις για το όνομά της.
Οι προτάσεις hashtag του Instagram με βάση την τεχνητή νοημοσύνη δεν έλαβαν το μήνυμα. Παρά την άρνηση εμφάνισης αποτελεσμάτων για το όνομα της υπηρεσίας, η λειτουργία αυτόματης συμπλήρωσης της πλατφόρμας συνέστησε στους χρήστες να δοκιμάσουν παραλλαγές του ονόματος με τις λέξεις “boys” και “CP” που προστίθενται στο τέλος.
Η εταιρεία προσπάθησε να απενεργοποιήσει αυτά τα hashtags εν μέσω της απάντησής της στα ερωτήματα της Journal. Αλλά μέσα σε λίγες ημέρες το Instagram συνέστησε και πάλι νέες παραλλαγές του ονόματος της υπηρεσίας που οδηγούσαν επίσης σε λογαριασμούς που πωλούσαν υποτιθέμενο περιεχόμενο σεξουαλικού περιεχομένου με ανήλικους.
Μετά το αρχικό σκούπισμα της εταιρείας λογαριασμών που έθεσαν υπόψη της το Stanford και η Journal, ο Levine του UMass έλεγξε μερικούς από τους υπόλοιπους λογαριασμούς πωλητών ανήλικου σεξ στο Instagram. Όπως και προηγουμένως, η προβολή έστω και ενός από αυτούς οδήγησε το Instagram να συστήσει νέους. Οι προτάσεις του Instagram βοηθούσαν στην ανοικοδόμηση του δικτύου που το προσωπικό ασφαλείας της ίδιας της πλατφόρμας προσπαθούσε να διαλύσει.
Ένας εκπρόσωπος της Meta δήλωσε ότι τα συστήματά της για την αποτροπή τέτοιων συστάσεων βρίσκονται υπό κατασκευή. Ο Levine χαρακτήρισε απαράδεκτο το ρόλο του Instagram στην προώθηση παιδοφιλικού περιεχομένου και λογαριασμών.
“Τραβήξτε το φρένο έκτακτης ανάγκης”, είπε. “Αξίζουν τα οικονομικά οφέλη τη ζημιά που προκαλείται σε αυτά τα παιδιά;”
Γράψτε στον Jeff Horwitz στη διεύθυνση jeff.horwitz@wsj.com και στην Katherine Blunt στη διεύθυνση katherine.blunt@wsj.com
Δημοσιεύθηκε αρχικά στο ενημερωτικό δελτίο COVID της Meryl
Suggest a correction
