Facebook Papers: Νέα στοιχεία αποκαλύπτουν τις αδυναμίες στον έλεγχο του επιβλαβούς περιεχομένου

Οι χιλιάδες σελίδες εσωτερικών εγγράφων που παρέδωσε στο Κογκρέσο η μάρτυρας δημοσίου συμφέροντος και πρώην υπάλληλος του Facebook, Φράνσις Χάουγκεν, παρουσιάζουν μια εταιρεία με πολλές εσωτερικές συγκρούσεις που σχετίζονται με τις πολιτικές της.

Τα έγγραφα αποκαλύπτουν πολυάριθμες περιπτώσεις όπου ερευνητές και απλοί εργαζόμενοι αποκάλυψαν βαθιά ριζωμένα προβλήματα τα οποία η εταιρεία στη συνέχεια παρέβλεψε ή αγνόησε.

Την περασμένη Παρασκευή, το NBC News δημοσίευσε ένα άρθρο που αναφερόταν στην «Drebbel», μια εσωτερική ομάδα εργαζομένων του Facebook, υπεύθυνη για τον εντοπισμό και την αφαίρεση ομάδων που πρότειναν στους χρήστες επιβλαβές περιεχόμενο στο Facebook και το Instagram.

Η ομάδα Drebbel βρίσκεται στην κορυφή της λίστας του φιλόδοξου σχεδίου που δημοσιεύθηκε στο Workplace της εταιρείας στις 6 Ιανουαρίου και περιλαμβάνει τον πλήρη έλεγχο των αλγορίθμων που προτείνουν ομάδες στους χρήστες.

Οι ερευνητές προσπάθησαν να εντοπίσουν εκείνες τις ομάδες (gateway groups) των οποίων η θεματική δεν φαινόταν να παραβιάζει τους κανόνες της πλατφόρμας, ωστόσο λειτουργούσαν ως «πύλες εισόδου» παραπέμποντας τους χρήστες σε άλλες ομάδες με δυνητικά επιβλαβές περιεχόμενο.

Η ανάρτηση, που συντάχθηκε από ανώνυμο υπάλληλο του Facebook, αναφέρει ότι ο σκοπός της έρευνας Drebbel ήταν να απαντήσει σε ένα βασικό ερώτημα: «Υπάρχουν ομάδες που διευκόλυναν και αύξησαν την πιθανότητα ένταξης ενός χρήστη σε ομάδες που παρακινούν την παραπληροφόρηση;»

Για να απαντήσουν στο ερώτημα αυτό, οι υπεύθυνοι κατασκεύασαν πρώτα έναν ταξινομητή τον οποίο τροφοδότησαν με μια λίστα με τις ομάδες στις οποίες ανήκε ένας συγκεκριμένος χρήστης. Το σύστημα στη συνέχεια, μπόρεσε να προβλέψει με μεγάλη ακρίβεια αν ο χρήστης θα ενταχθεί σε ένα επικίνδυνο γκρουπ που θα τον οδηγήσει σε άλλα, παρόμοια. «Εάν η πιθανότητα αυξηθεί μετά από μια ένταξη σε μια τέτοια ομάδα, τότε σημαίνει ότι ο χρήστης έγινε μέλος μιας πύλης. Εάν αυτό συμβεί με πολλούς χρήστες, τότε επιβεβαιώνουμε ότι όντως πρόκειται για πύλη».

Αυτή η εξήγηση- η οποία επικεντρώνεται σε αναρτήσεις που περιέχουν «γυμνό ή σεξουαλική δραστηριότητα»– περιγράφει τα διάφορα χαρακτηριστικά που διευκολύνουν, εν μέρει, τη δημιουργία αυτών των πυλών. Το κύριο χαρακτηριστικό, σύμφωνα με αυτή την ανάλυση, είναι η λειτουργία «Ομάδες που μπορεί να σας ενδιαφέρουν».

Οι προσκλήσεις των χρηστών, επίσης διαδραματίζουν σημαντικό ρόλο. Τριάντα πέντε από τις προσκλήσεις σε ομάδες που είχαν περιεχόμενο με «γυμνό ή σεξουαλική δραστηριότητα» στάλθηκαν σε μέλη που ανήκαν σε μία από τις 100 κορυφαίες ομάδες πύλης που εντόπισαν οι ερευνητές. Το 20% αυτών προήλθε από «σούπερ-πρόσκληση» (λογαριασμοί που έστειλαν πάνω από 50 προσκλήσεις σε ομάδες).

Το Facebook κυριαρχεί στις αγροτικές περιοχές

Η εταιρεία έχει συνειδητοποιήσει ότι οι άνθρωποι στις αγροτικές περιοχές είναι πιο πιθανό να ασχοληθούν ενεργά με ομάδες στην πλατφόρμα – πράγμα που σημαίνει ότι είναι και πιο πιθανό να υποστούν τις αρνητικές επιπτώσεις της.

«Δεν αποτελεί έκπληξη το γεγονός ότι η εμπλοκή στις ομάδες, όπως και η συνολική εμπλοκή στο FB, εξαρτάται σε μεγάλο βαθμό από τη γεωγραφία», έγραψε ένας ερευνητής σε μια έκθεση του 2019. «Οι άνθρωποι που ζουν κοντά στην ακτή ασχολούνται λιγότερο με τις ομάδες σε σύγκριση με τους ανθρώπους που ζουν στην ενδοχώρα».

Ένας άλλος υπάλληλος έγραψε: «Υποθέτω ότι οι άνθρωποι στις πόλεις έχουν πολύ πιο ενδιαφέροντα πράγματα να κάνουν από το να συμμετέχουν σε διαδικτυακές ομάδες».

Όποια και αν είναι η περίπτωση, αναφέρει η έκθεση, τα αποτελέσματα αυτά υποδηλώνουν ότι «η αποτελεσματικότητα των προσπαθειών μας να κάνουμε τους ανθρώπους να ασχοληθούν περισσότερο, περιορίζεται κάπως από τα δημογραφικά χαρακτηριστικά».

Η ομάδα Civic Integrity, μέλος της οποίας ήταν και η Χάουγκεν, είχε επιμεληθεί μια έκθεση στην οποία περιέγραφε λεπτομερώς τα αποτελέσματα μιας μελέτης που ποσοτικοποιούσε τις «κακές εμπειρίες» που έχουν οι χρήστες όταν μπαίνουν καθημερινά στο Facebook.

Σύμφωνα με την έκθεση, το 11% των χρηστών βλέπουν καθημερινά περιεχόμενο που θεωρούν «ενοχλητικό», «εκφοβιστικό» (16%), αναρτήσεις που προωθούν τη ρητορική μίσους (39%) ή που περιέχουν κάποια μορφή γυμνού ή σεξουαλικής δραστηριότητας (32%).

«Αυτά είναι σημαντικά ποσοστά των καθημερινά ενεργών χρηστών και ουσιαστικά δεν διαθέτουμε παρεμβάσεις για τον μετριασμό αυτού του φαινομένου», αναφέρει η έκθεση. «Αντίθετα, η επίδρασή μας περιορίζεται σε παραβιάσεις ως προς την αντικειμενική ποιότητα περιεχομένου, μια μετρική που χρησιμοποιεί το Facebook για να επισημάνει πράγματα όπως το clickbait και το spam.

ΠΗΓΗ: Gizmodo, AP