Η βία που αποδίδεται στη διαδικτυακή ρητορική μίσους έχει αυξηθεί παγκοσμίως. Οι κοινωνίες που αντιμετωπίζουν αυτήν την τάση πρέπει να διαχειριστούν ζητήματα ελευθερίας του λόγου και λογοκρισίας στις ευρέως χρησιμοποιούμενες τεχνολογικές πλατφόρμες.
Ένα μνημείο έξω από το τέμενος Al Noor στο Κράιστσερτς της Νέας Ζηλανδίας.
Φωτογραφία: Kai Schwoerer/Getty Images
Συγγραφέας
Zachary Laub
Επικαιροποίηση
7 Ιουνίου 2019, 15:51 (Ανατολική Ώρα ΗΠΑ)
Περίληψη
Η ρητορική μίσους στο διαδίκτυο έχει συνδεθεί με μια παγκόσμια αύξηση της βίας κατά των μειονοτήτων, συμπεριλαμβανομένων μαζικών πυροβολισμών, λιντσαρισμάτων και εθνοκαθάρσεων.
Οι πολιτικές που χρησιμοποιούνται για την καταστολή της ρητορικής μίσους ενέχουν τον κίνδυνο περιορισμού της ελευθερίας του λόγου και εφαρμόζονται με ασυνέπεια.
Χώρες όπως οι Ηνωμένες Πολιτείες παραχωρούν στις εταιρείες κοινωνικής δικτύωσης ευρείες εξουσίες για τη διαχείριση του περιεχομένου τους και την επιβολή κανόνων κατά της ρητορικής μίσους. Άλλες, όπως η Γερμανία, μπορούν να υποχρεώσουν τις εταιρείες να αφαιρούν αναρτήσεις εντός συγκεκριμένων χρονικών περιθωρίων.
Εισαγωγή
Η αυξανόμενη συχνότητα επιθέσεων κατά μεταναστών και άλλων μειονοτήτων έχει εγείρει νέες ανησυχίες σχετικά με τη σύνδεση ανάμεσα στον εμπρηστικό λόγο στο διαδίκτυο και στις βίαιες πράξεις, καθώς και με τον ρόλο των εταιρειών και του κράτους στην αστυνόμευση του λόγου. Αναλυτές υποστηρίζουν ότι οι τάσεις στα εγκλήματα μίσους σε όλο τον κόσμο αντικατοπτρίζουν αλλαγές στο πολιτικό κλίμα και ότι τα μέσα κοινωνικής δικτύωσης μπορούν να ενισχύσουν τη διχόνοια. Στις πιο ακραίες περιπτώσεις, φήμες και ύβρεις που διαδίδονται διαδικτυακά έχουν συμβάλει σε βία που κυμαίνεται από λιντσαρίσματα έως εθνοκαθάρσεις.
Η αντίδραση υπήρξε άνιση, και το καθήκον να αποφασίζεται τι θα λογοκριθεί — και πώς — έχει πέσει σε μεγάλο βαθμό στους λίγους κολοσσούς που ελέγχουν τις πλατφόρμες επικοινωνίας στις οποίες στηρίζεται σήμερα μεγάλο μέρος του παγκόσμιου πληθυσμού. Ωστόσο, οι εταιρείες αυτές περιορίζονται από την εγχώρια νομοθεσία. Στις φιλελεύθερες δημοκρατίες, αυτοί οι νόμοι μπορούν να λειτουργήσουν κατευναστικά απέναντι στις διακρίσεις και να αποτρέψουν τη βία κατά των μειονοτήτων. Όμως οι ίδιοι νόμοι μπορούν επίσης να χρησιμοποιηθούν για την καταστολή μειονοτήτων και αντιφρονούντων.
Πόσο διαδεδομένο είναι το πρόβλημα;
Περιστατικά έχουν αναφερθεί σχεδόν σε κάθε ήπειρο. Μεγάλο μέρος του κόσμου επικοινωνεί πλέον μέσω κοινωνικών δικτύων, με σχεδόν το ένα τρίτο του παγκόσμιου πληθυσμού να είναι ενεργό μόνο στο Facebook. Καθώς όλο και περισσότεροι άνθρωποι μετακινούνται στο διαδίκτυο, οι ειδικοί λένε ότι άτομα με τάσεις ρατσισμού, μισογυνισμού ή ομοφοβίας βρίσκουν διαδικτυακές γωνιές που ενισχύουν τις απόψεις τους και τους υποκινούν στη βία. Οι πλατφόρμες κοινωνικής δικτύωσης προσφέρουν επίσης τη δυνατότητα στους δράστες βίαιων ενεργειών να διαφημίζουν τις πράξεις τους.
Κοινωνικοί επιστήμονες και άλλοι παρατηρούν πώς οι αναρτήσεις στα μέσα κοινωνικής δικτύωσης και άλλες μορφές διαδικτυακού λόγου μπορούν να εμπνεύσουν πράξεις βίας:
Στη Γερμανία διαπιστώθηκε συσχέτιση μεταξύ αντιπροσφυγικών αναρτήσεων στο Facebook από το ακροδεξιό κόμμα Εναλλακτική για τη Γερμανία (AfD) και επιθέσεων κατά προσφύγων. Οι ερευνητές Κάρστεν Μύλερ και Κάρλο Σβαρτς παρατήρησαν ότι η αύξηση των επιθέσεων, όπως εμπρησμοί και επιθέσεις, ακολουθούσε εξάρσεις στις ρητορικές μίσους.
Στις Ηνωμένες Πολιτείες, οι δράστες πρόσφατων λευκών υπεροχικών επιθέσεων συμμετείχαν σε ρατσιστικές κοινότητες στο διαδίκτυο και χρησιμοποίησαν τα μέσα κοινωνικής δικτύωσης για να δημοσιοποιήσουν τις πράξεις τους. Οι εισαγγελείς δήλωσαν ότι ο δράστης της επίθεσης στην εκκλησία του Τσάρλεστον, που σκότωσε εννέα μαύρους κληρικούς και πιστούς τον Ιούνιο του 2015, είχε ακολουθήσει μια «διαδικτυακή αυτοδιδασκαλία» που τον οδήγησε να πιστέψει ότι ο στόχος της λευκής υπεροχής απαιτούσε βίαιη δράση.
Ο δράστης της επίθεσης στη συναγωγή του Πίτσμπουργκ το 2018 ήταν χρήστης του κοινωνικού δικτύου Gab, του οποίου οι χαλαροί κανόνες προσέλκυσαν εξτρεμιστές που είχαν αποκλειστεί από μεγαλύτερες πλατφόρμες. Εκεί, υποστήριζε τη συνωμοσία ότι οι Εβραίοι προσπαθούσαν να φέρουν μετανάστες στις Ηνωμένες Πολιτείες ώστε να καταστήσουν τους λευκούς μειονότητα, προτού σκοτώσει έντεκα πιστούς κατά τη διάρκεια ενός σαββατιάτικου θρησκευτικού λειτουργικού με θέμα τους πρόσφυγες. Το αφήγημα αυτό του «μεγάλου αντικαταστάτη», που ακούστηκε και στη λευκή υπεροχική συγκέντρωση στο Σάρλοτσβιλ της Βιρτζίνια ένα χρόνο νωρίτερα και προέρχεται από τη γαλλική ακροδεξιά, εκφράζει δημογραφικό άγχος για τη μετανάστευση και τις γεννήσεις μη λευκών πληθυσμών.
Το ίδιο αφήγημα υιοθετήθηκε από τον δράστη των επιθέσεων στα τεμένη της Νέας Ζηλανδίας το 2019, ο οποίος σκότωσε σαράντα εννέα μουσουλμάνους την ώρα της προσευχής και προσπάθησε να μεταδώσει την επίθεση ζωντανά στο YouTube.
Στη Μιανμάρ, στρατιωτικοί ηγέτες και βουδιστές εθνικιστές χρησιμοποίησαν τα μέσα κοινωνικής δικτύωσης για να συκοφαντήσουν και να δαιμονοποιήσουν τη μουσουλμανική μειονότητα των Ροχίνγκια πριν και κατά τη διάρκεια εκστρατείας εθνοκάθαρσης. Παρόλο που οι Ροχίνγκια αποτελούσαν ίσως μόλις το 2% του πληθυσμού, οι εθνοεθνικιστές ισχυρίζονταν ότι σύντομα θα αντικαθιστούσαν τη βουδιστική πλειοψηφία. Η αποστολή διερεύνησης του ΟΗΕ δήλωσε: «Το Facebook υπήρξε χρήσιμο εργαλείο για όσους επεδίωκαν να διαδώσουν το μίσος, σε ένα περιβάλλον όπου, για τους περισσότερους χρήστες, το Facebook είναι το ίδιο το διαδίκτυο».
Στην Ινδία, οι λιντσαρίσματα και άλλες μορφές κοινοτικής βίας — συχνά ξεκινούν από φήμες σε ομάδες WhatsApp — έχουν αυξηθεί από τότε που ανέλαβε την εξουσία το 2014 το ινδουιστικό εθνικιστικό κόμμα Bharatiya Janata (BJP).
Ανάλογα φαινόμενα έχουν καταγραφεί και στη Σρι Λάνκα, με περιπτώσεις αυτοδικίας που εμπνεύστηκαν από φήμες που διαδόθηκαν διαδικτυακά, στοχοποιώντας τη μουσουλμανική μειονότητα των Ταμίλ. Κατά τη διάρκεια ενός κύματος βίας τον Μάρτιο του 2018, η κυβέρνηση μπλόκαρε για μια εβδομάδα την πρόσβαση στο Facebook, το WhatsApp και την εφαρμογή μηνυμάτων Viber, δηλώνοντας ότι το Facebook δεν αντέδρασε επαρκώς κατά τη διάρκεια της κρίσης.
Καταλύουν τα μέσα κοινωνικής δικτύωσης τα εγκλήματα μίσους;
Η ίδια τεχνολογία που επιτρέπει στα μέσα κοινωνικής δικτύωσης να κινητοποιούν ακτιβιστές της δημοκρατίας μπορεί να χρησιμοποιηθεί από ομάδες μίσους που επιδιώκουν να οργανωθούν και να στρατολογήσουν μέλη. Επιπλέον, δίνει τη δυνατότητα σε περιθωριακούς ιστότοπους, συμπεριλαμβανομένων διακινητών θεωριών συνωμοσίας, να προσεγγίσουν κοινά πολύ ευρύτερα από τον πυρήνα των αναγνωστών τους. Τα επιχειρηματικά μοντέλα των διαδικτυακών πλατφορμών βασίζονται στη μεγιστοποίηση του χρόνου ανάγνωσης ή θέασης. Εφόσον το Facebook και παρόμοιες πλατφόρμες κερδίζουν χρήματα επιτρέποντας στους διαφημιστές να στοχεύουν με ακραία ακρίβεια το κοινό τους, έχουν συμφέρον να αφήνουν τους χρήστες να βρίσκουν τις κοινότητες όπου θα περνούν τον περισσότερο χρόνο.
Η εμπειρία των χρηστών στο διαδίκτυο διαμεσολαβείται από αλγορίθμους σχεδιασμένους να μεγιστοποιούν την εμπλοκή τους, κάτι που συχνά — χωρίς πρόθεση — προωθεί ακραίο περιεχόμενο. Ορισμένες οργανώσεις επιτήρησης του διαδικτύου υποστηρίζουν ότι η λειτουργία αυτόματης αναπαραγωγής του YouTube, κατά την οποία, μετά την προβολή ενός βίντεο, ξεκινά ένα σχετικό, μπορεί να είναι ιδιαιτέρως επιζήμια. Ο αλγόριθμος οδηγεί τους χρήστες σε βίντεο που προωθούν θεωρίες συνωμοσίας ή είναι «διχαστικά, παραπλανητικά ή ψευδή», σύμφωνα με δημοσιογραφική έρευνα της Wall Street Journal. «Το YouTube ίσως είναι ένα από τα ισχυρότερα εργαλεία ριζοσπαστικοποίησης του 21ου αιώνα», γράφει η κοινωνιολόγος Ζεϊνέπ Τουφέκτσι.
Το YouTube δήλωσε τον Ιούνιο του 2019 ότι οι αλλαγές στον αλγόριθμο προτάσεων που εφαρμόστηκαν τον Ιανουάριο είχαν μειώσει στο μισό τις προβολές βίντεο που θεωρούνται «οριακά» ως προς τη διάδοση παραπληροφόρησης. Την ίδια περίοδο, η εταιρεία ανακοίνωσε επίσης ότι θα αφαιρούσε βίντεο νεοναζί και λευκών υπεροχικών από την πλατφόρμα της. Παρ’ όλα αυτά, το YouTube δέχθηκε κριτική ότι οι προσπάθειές του για περιορισμό της ρητορικής μίσους δεν επαρκούν. Για παράδειγμα, επικριτές σημειώνουν ότι, αντί να αφαιρέσει βίντεο που προκάλεσαν ομοφοβικές παρενοχλήσεις κατά δημοσιογράφου, το YouTube απλώς απέκλεισε τον δράστη από τα έσοδα διαφήμισης.
Πώς εφαρμόζουν οι πλατφόρμες τους κανόνες τους;
Οι πλατφόρμες κοινωνικής δικτύωσης βασίζονται σε έναν συνδυασμό τεχνητής νοημοσύνης, αναφορών χρηστών και προσωπικού γνωστού ως συντονιστές περιεχομένου για να επιβάλλουν τους κανόνες τους περί κατάλληλου περιεχομένου. Ωστόσο, οι συντονιστές επιβαρύνονται από τον τεράστιο όγκο αναρτήσεων και το τραύμα που προκαλεί η διαχείριση σοκαριστικού υλικού, και οι εταιρείες κοινωνικής δικτύωσης δεν κατανέμουν ομοιόμορφα τους πόρους τους στις πολλές αγορές που εξυπηρετούν.
Έρευνα του ProPublica αποκάλυψε ότι οι κανόνες του Facebook είναι αδιαφανείς για τους χρήστες και εφαρμόζονται με ασυνέπεια από τους χιλιάδες εξωτερικούς συνεργάτες του που έχουν αναλάβει τη διαχείριση περιεχομένου. (Το Facebook δηλώνει ότι διαθέτει δεκαπέντε χιλιάδες τέτοιους συνεργάτες.) Σε πολλές χώρες και αμφισβητούμενα εδάφη, όπως τα Παλαιστινιακά Εδάφη, το Κασμίρ και η Κριμαία, ακτιβιστές και δημοσιογράφοι έχουν λογοκριθεί, καθώς το Facebook επιδιώκει να διατηρήσει την πρόσβασή του στις εθνικές αγορές ή να προστατευτεί από νομικές ευθύνες. Όπως διαπίστωσε το ProPublica, «οι κανόνες του Facebook για τη ρητορική μίσους τείνουν να ευνοούν τις ελίτ και τις κυβερνήσεις έναντι των ακτιβιστών βάσης και των φυλετικών μειονοτήτων».
