Quattro strategie per neutralizzare gli haters online

riccardo liguori

La fisica e l'informatica possono sconfiggere l'odio. È questa la conclusione di uno studio sulle dinamiche con cui gruppi di "haters" si muovono nell'universo virtuale dei social: Facebook e il suo gemello russo VKontakte, in questo caso. A dirlo è il professore Neil Johnson della George Washington University.

In un'epoca di alta interconnessione social come la nostra, le opinioni condivise non rimangono confinate in determinate nicchie sociali o geografiche. Tutt'altro. Riescono a diffondersi ad una velocità senza precedenti. E questo grazie ai social media online che permettono agli "haters" di reclutare agilmente nuovi proseliti, rimpolpando un esercito di utenti dediti all'offesa facile, all'insulto gratuito (e morboso).

D'altra parte, la rete può amplificare e rendere persistente la violenza verbale. Anche quando viene affrontata e condannata, la socializzazione dell'odio resta in agguato, sempre pronta a riemergere. A maggior ragione, quando il controllo dei social media è inefficiente, l'ecosistema online può diventare un ponte per veicolare, sempre più velocemente, messaggi d'odio. Comprendere i meccanismi con cui l'odio si dipana nel mondo virtuale diventa allora fondamentale per neutralizzare gli haters in questo “campo di battaglia globale”.

A preoccuparsi di questo problema sono stati i ricercatori dell'Università di Washington (dipartimento di fisica) e Miami (dipartimento di fisica e informatica). Il professore Johnson e colleghi hanno esaminato le dinamiche di gruppi di odio su due piattaforme social, Facebook e il suo corrispondente russo VKontakte, per un periodo di pochi mesi tra il 2017 e il 2018. Ne è uscito il report Hidden resilience and adaptive dynamics of the global online hate ecology.

Alla base del report: i cluster

Perché l'ecosistema di odio virtuale persiste nelle piattaforme social? Come bisogna affrontarlo? Lo studio americano fornisce intuizioni e quattro vie, potenziali linee guida per neutralizzare questo problema. I metodi attuali per bandire dal mondo virtuale i contenuti di odio sono inefficaci. E questo perché non riescono a fermarli. Anzi, li moltiplicano.

Ma partiamo dall'inizio. Il report esordisce parlando di cluster che si muovono nel mondo virtuale. Di cosa si tratta?

I cluster sono definiti come pagine online o gruppi, aperti e inclusivi, in cui si "incontrano" utenti che condividono opinioni, interessi o scopi dichiarati simili. Si tratta di comunità di internauti che possono unirsi tra loro, amplificando così la viralità dei loro messaggi. A tal proposito, una prima interessante scoperta raggiunta dai ricercatori americani è che i gruppi di odio online sono organizzati in comunità, quasi mai geograficamente localizzate, altamente resilienti. Per questo, quando dei cluster vengono attaccati si rigenerano e riorganizzano rapidamente.

Johnson e colleghi hanno dimostrato che vietare i contenuti di odio su una singola piattaforma social potenzia gli ecosistemi di odio online e promuove la creazione di cluster non rilevabili dalle piattaforme di polizia. In questo modo il contenuto di odio prospera incontrollato, assumendo la forma di una "dark pool": una immensa pozza nera di messaggi negativi.

L'incidenza dei discorsi d'odio

Nel corso degli ultimi anni, l'incidenza dei discorsi di odio nel mondo online è costantemente aumentata. Da questo dato si deduce che stiamo perdendo la battaglia contro la socializzazione dell'odio. Ed è un problema per il benessere e la sicurezza della nostra società. Inoltre, a detta dei ricercatori americani, l'esposizione all'odio online promuove anche la viralità della violenza nel mondo "reale", quello offline.

Quattro proposte per invertire la rotta

Studi precedenti a quello americano hanno considerato i gruppi di odio come singole reti, oppure come piccole comunità appartenenti a un'unica rete globale. Nello studio americano è stata studiata la struttura interconnessa di una comunità di gruppi di odio però intesa come una "rete di reti": un ecosistema in cui i diversi cluster sono reti interconnesse. Allora come gestire queste strutture in continua comunicazione tra loro?

Attualmente, le aziende dei social media devono decidere quale contenuto vietare, ma spesso devono fare i conti con grandi volumi di contenuti e vari vincoli legali e regolamentari.

I ricercatori hanno allora proposto quattro politiche, per un intervento efficace in grado di neutralizzare la struttura e le dinamiche dell'ecosistema d'odio online, che dribblano questo problema. Ciascuna delle politiche suggerite può essere implementata indipendentemente da una piattaforma social all'altra, senza la necessità di condividere informazioni sensibili. Vediamo in cosa consistono le quattro proposte in grado di invertire la rotta della socializzazione dell'odio nel web:

  • Piuttosto che neutralizzare un cluster di haters troppo grande da gestire, sarebbe meglio agire su quelli relativamente piccoli (che, tra l'altro, sono i più diffusi e frequenti). Tuttavia, la messa al bando di interi gruppi di utenti, a prescindere dalle loro dimensioni, può portare all'indignazione nella comunità d'odio attaccata. Il gruppo di haters potrebbe infatti avanzare accuse contro le piattaforme dei social media, rivendicando il loro diritto alla libertà di espressione.
  • Un'altra strategia potrebbe essere quella di "bannare" un piccolo numero di haters, selezionati casualmente all'interno di un gruppo. Questo approccio di individuazione aleatoria non richiede l'uso di informazioni sensibili del profilo utente, e quindi evita potenziali violazioni delle norme sulla privacy. Tuttavia, l'efficacia di questo approccio dipende in larga misura dalla struttura della rete sociale, perché le caratteristiche topologiche (strutturali) delle reti determinano fortemente la loro resilienza ad attacchi mirati o casuali.
  • La terza proposta sfrutta la scoperta secondo cui i cluster si "auto-organizzano" partendo da un gruppo di utenti inizialmente disordinato. I ricercatori americani allora suggeriscono agli amministratori delle piattaforme social di dare vita a piccoli gruppi di utenti "anti-odio" da iniettare nei cluster di haters. In questo modo si darebbe vita ad una azione di neutralizzazione simile a quella messa in moto dal nostro sistema immunitario, quando si trova a dover combattere batteri e virus.
  • Infine, la quarta via sfrutta la tendenza, di molti gruppi di haters, ad avere opinioni tra loro opposte. Gli amministratori delle piattaforme social, allora, potrebbero diffondere nel canale comunicativo di gruppi con idee “polarizzanti”, utenti incentivati a incoraggiare le interazioni tra questi gruppi di odio facendo leva sulle opinioni contrastanti. In questo modo i gruppi di haters sarebbero spinti a combattersi tra loro proprio in forza delle "divergenze di vedute" che li riguarda.

In ogni caso, gli autori raccomandano di prestare particolare cautela nel considerare vantaggi e svantaggi di ciascuna politica. Questo perché la fattibilità della loro attuazione si baserà sulle risorse umane e computazionali disponibili così come sui vincoli legali in materia di privacy. Qualsiasi decisione sull'attuazione di una strategia rispetto ad un'altra deve essere presa sulla base di analisi empiriche e di dati ottenuti mediante un attento monitoraggio dei cluster inclini a socializzare l'odio nel web.

Sta diventando sempre più evidente che soluzioni efficaci per affrontare l'odio online, così come le dispute legali e di privacy che ne deriverebbero, richiedono un'azione congiunta. Richiedono, cioè, l'elaborazione di un piano che coinvolga compagnie tecnologiche, decisori politici e ricercatori.