Sicurezza e Giustizia

VIAGGIO NELLA SOCIETA’ DEI PINOCCHI

di Marta Giannini


Quello della creazione e diffusione di fake news, a partire dalla campagna americana del 2016, sembra essere un fenomeno che ha investito molti campi della società con considerevoli effetti a livello politico, economico e sociale. La velocità di diffusione, grazie soprattutto ai social media, e la mancanza di attenzione da parte degli utenti, stanno portando all’uso sistematico delle fake news con lo scopo di indirizzare l’opinione pubblica, esasperare le pulsioni sociali generate da incertezza economica, frustrazione personale e paura di ciò che non è possibile comprendere secondo categorie conosciute. Il racconto della realtà è diventato facilmente manipolabile. In conseguenza di ciò sono nate molte organizzazioni che si occupano di fact checking e di debunking. Oltre al lavoro dei fact checker e agli algoritmi generati da alcuni social media, come ad esempio Facebook in collaborazione con Google, è possibile fornire uno strumento di supporto efficace ed efficiente che automatizzi alcuni passaggi e presenti ipotesi di analisi evidenziando possibili autori, diffusori, bot?

pdf-icon

 

1.     Introduzione

Il 2016 è stato definito l’anno della post-verità. La diffusione spregiudicata delle cosiddette fake news, le notizie false, e il ricorso alla narrazione alternativa per raccontare alcuni eventi generalmente di grande impatto sull’opinione pubblica e sul sentire comune, a partire dalla campagna elettorale americana del 2016, sono diventate pratiche mondiali e, sembrerebbe, inarrestabili.
Gli strumenti per creare e diffondere fake news sono tanti quanti sono gli strumenti di comunicazione oggi a disposizione e sono alla portata di tutti. Se fino a qualche anno fa le persone per informarsi dovevano acquistare un quotidiano o attendere un telegiornale, oggi le notizie sono disponibili, per tutti, a in qualunque momento e costantemente aggiornate. Per quanto ciò porti grandissimi vantaggi, questa modalità di diffusione diventa un bombardamento che non lascia tempo per approfondire le informazioni che si leggono. Per mancanza di tempo o anche per mancata abitudine all’approfondimento, per fiducia nei confronti dell’autore o dell’ampia diffusione di una notizia, tutti contribuiamo alla propagazione veloce e tentacolare di notizie false.
Capire come individuare le fake news (notizie false, bufale, hoaxes), arginarne la creazione, contrastarne la diffusione, limitarne i danni diffondendo eventuali smentite (c’è chi ha perso la reputazione!) è un compito complesso cui ognuno di noi può contribuire prestando maggiore tempo ed attenzione a quanto viene pubblicato soprattutto in internet. Soprattutto in campo sociale, economico e politico, occorre svolgere azioni di contenimento in maniera sistematica ed efficace. Sono nate organizzazioni, team di persone e nuove professionalità nel tentativo di trovare metodiche e strumenti che agevolino il successo di queste attività. Sistemi & Automazione, da diverso tempo lavora in questa direzione, alla ricerca di metodiche di analisi, strumenti evoluti, efficienti ed efficaci che supportino il lavoro di analisti, giornalisti, data scientist e di tutti coloro che sono coinvolti nell’attività di detection di notizie false e di individuazione di creatori e diffusori. L’obiettivo che ci poniamo è altresì quello di determinare le leve emotive e psicologiche che sollecitano quelle emozioni – il più delle volte negative – che portano le persone, spesso inconsapevolmente, a contribuire alla diffusione di fake news. Definire queste spinte emotive è fondamentale per circoscrivere i meccanismi che sottendono la creazione di notizie false.

 

2. Storia, proprietà, tipologia e caratteristiche delle Fake News
Le fake news, sono vecchie come il mondo. Almeno come il mondo conosciuto. Effettivamente non ho elementi che attestino la diffusione di notizie false nel pleistocene ma, già nel 1517, Lorenzo Valla, scrisse De falso credita et ementita Constantini donatione declamatio, un trattato a confutazione della cosiddetta Donazione di Costantino del 314 d.C. Il documento sanciva alcune concessioni favorevoli al potere della chiesa di Roma e venne utilizzato per giustificare la nascita del potere temporale del pontificato romano. Valla compì un’attenta analisi filologica del testo, individuando la presenza di alcuni barbarismi che ne rendevano impossibile la collocazione temporale nel quarto secolo dopo Cristo, dimostrando in tal modo la falsità del documento.
In questo caso, la notizia falsa (qui si tratta addirittura di un documento!), andava esplicitamente a vantaggio della Chiesa, il cui intento nel farlo redigere fu principalmente quello di ottenere e legittimare il proprio potere politico.
Molto più spesso, tuttavia, nei secoli successivi e nei giorni nostri, la leva sembra essere soprattutto quella economica. Alcuni siti, pagine di social network, blog creano fake news con l’obiettivo di moltiplicare gli accessi e i click per ottenere un ritorno economico (peraltro con minimo sforzo i risultati possono essere notevoli). Nell’agosto del 1835, il New York Sun, pubblicò la notizia che un noto astronomo inglese, sir John Frederick William Herschel (figlio dell’astronomo che aveva individuato Urano), aveva scoperto che la luna era abitata e civilizzata da strane creature metà uomo e metà pipistrello. L’obiettivo dell’autore, che si scoprì essere Richard Adams Locke, era semplicemente quello di aumentare la tiratura del giornale per cui scriveva.
Da questi due esempi si desume che chi crea notizie false ha sempre un obiettivo che, se intercettato, potrebbe facilitare il compito di coloro che devono contrastarne la produzione e la propagazione.

Occorre specificare che il fine non è sempre quello di “raggirare”, esercitare influenza e potere o fare propaganda, in alcuni casi, come ad esempio per la satira e la parodia, l’obiettivo è semplicemente quello di divertire o indurre ad alcune riflessioni. Esistono poi anche casi estremi, ossia quelli in cui le notizie vengono inventate di sana pianta (o falsificate) per danneggiare persone, aziende, progetti politici a favore di altri competitor. David Puente, fact-checker (ossia analizzatore di fake news), tra i più noti in Italia, è stato vittima di qualcuno che ha pubblicato la notizia, corredata di fotografie e falsi documenti, che lui è un pedofilo. Immaginate quanto velocemente questa notizia possa essere girata nel web ma quanto lentamente lo abbia fatto la smentita. La verità è che siamo molto attratti dal torbido o, più umanamente, dipendenti dalle emozioni.
Un’altra condizione necessaria, quindi, è di dover raggiungere il maggior numero possibile di persone. I garanti di questa diffusione indiscriminata sono internet e più in particolare i social media. Per assicurarne la viralità (ossia la propagazione veloce e tentacolare) le notizie devono sembrare credibili ed essere “appetibili”. I contenuti devono toccare temi fondamentali quali la sicurezza, la famiglia, il lavoro, la salute. Dubito che oggi potremmo credere all’esistenza di uomini pipistrello sulla luna ma, siamo riusciti a credere che l’olio di palma sia il male assoluto nonostante intere generazioni, oggi sane e robuste, siano cresciute a pane e olio di palma…

Per garantirne e favorirne la diffusione, è importante che le fake news siano costruite per attirare l’attenzione di un vasto pubblico ed è opportuno che contengano un elemento di verità che gli dia autenticità. La maggior parte delle fake news sono facilmente individuabili grazie al fatto che presentano modalità espressive simili: testo breve, uso di maiuscole (che nel linguaggio da tastiera è equiparabile alle grida), abuso della punteggiatura (soprattutto dei punti esclamativi!!!!!!), fotografie magari ritoccate con Photoshop ma non per renderle accattivanti dal punto di vista estetico. Per molte persone, perché le notizie siano attendibili, è importante che non provengano da canali ufficiali i quali, anzi “non ve lo diranno mai!” perché collusi coi “poteri forti”. Gli autori acquisiscono credibilità per il fatto di essere persone come noi che si sono informate attraverso i canali giusti. Lo stile user made, di alcune tipologie di fake, è frutto di una scelta precisa.
Per stimolare la sfera emotiva, oltre all’uso di parole “gridate” o di “tormentoni”, è utile aggiungere immagini. Esse possono sollecitare emozioni forti quali rabbia, stupore, paura e conferiscono autenticità all’assunto. Tim O’Reilly, fondatore e CEO di O’ Reilly media casa editrice che pubblica libri di informatica, ha analizzato un’immagine circolata durante la campagna presidenziale americana del 2016, una infografica relativa alla distribuzione sul territorio americano delle preferenze politiche (Repubblicani vs Democratici). O’Reilly dimostra, in pochi passaggi, che in realtà si tratta di un’immagine di qualche anno prima, concernente la diffusione della criminalità negli USA. Mentre scrivo, da pochi giorni è avvenuta la tragedia del crollo del ponte Morandi a Genova, per la quantità di false informazioni, fotografie, lettere e video che sono circolate, si potrebbe scrivere un romanzo… Comunque, una delle fake news più diffuse è legata all’immagine di un ponte gravemente danneggiato, che documenterebbe lo stato del ponte sulla A10 pochi giorni prima del crollo… David Puente ha rintracciato la fotografia originale, che è invece del ponte di Ripafratta, chiuso già da diverso tempo. In questo caso, chi l’ha diffusa, non ha neanche rimaneggiato la fotografia, è bastato scrivere che ritraeva il ponte Morandi per generare subito indignazione nell’opinione pubblica provocando il meccanismo delle social cascate ossia la condivisione massiva e ramificata di notizie false attraverso i social network. Vengono condivise anche quelle vere certo ma, un po’ meno.
Tutti siamo potenziali vittime della disinformazione. Gli elementi che giocano a nostro sfavore sono molteplici. Oltre alla fretta o alla fiducia in chi scrive, siamo generalmente portati a confermare cose in cui già crediamo. È un inganno cognitivo in cui tutti cadiamo spessissimo, il bias di conferma: tendiamo ad accogliere (e diffondere) informazioni, notizie, immagini che rafforzino le nostre idee, opinioni, pregiudizi, paure, anche circondandoci di quelle persone che sembrano corrisponderci maggiormente per idee, valori e credenze. In questo modo, persino notizie paradossali, vengono accolte come vere. Vi ricordate i coccodrilli ciechi e albini nelle fogne di New York?

 

3. Strumenti e figure che svolgono l’attività di individuazione, analisi e contrasto
Per la ricerca sul tema delle fake news, ho intervistato alcuni giornalisti (quelli dei media mainstream, per intenderci), i quali concordano tutti sull’assunto che per difendersi o contrastare il fenomeno delle fake news, la “regola numero uno è usare il cervello”.
Testate giornalistiche importanti, editori on line come Facebook e Google, partiti politici, grandi aziende, stanno organizzando team composti da esperti fact-checker per poter compiere in maniera efficace l’attività di debunking, cioè di intercettare le notizie false, argomentarne la confutazione e diffondere le smentite.
Quando ho frequentato le scuole, più di 25 anni fa, tra le professioni del futuro quelle di influencer, social media editor, web designer, web content editor, ecc. non erano neanche immaginate. Il mondo cambia velocemente, tutto si plasma o si adatta, anche il mondo del lavoro. Nell’era della post-verità, nascono nuove professionalità, oltre al fact-checker una figura chiave è quella del data scientist il quale deve possedere competenze eterogenee di alto livello per poter concepire soluzioni tecnologiche a supporto dell’indispensabile lavoro dell’analista. Il data scientist, quindi, è un po’ analista, un po’ sociologo, un po’ ingegnere, un po’ nerd.

 

4. La tecnologia può agevolare ricerca, individuazione e contrasto? Secondo noi, sì: un esempio
Il team Ricerca e Sviluppo di Sistemi & Automazione, affiancato dal gruppo Formazione e Consulenza, sta realizzando un sistema, Octolytics, in grado di supportare un analista fact-checker nelle sue attività suggerendo fattivamente percorsi di analisi. Il sistema punta ad individuare possibili minacce aiutando gli analisti nel tracciare i tortuosi percorsi che grazie al prolificare di strumenti di comunicazione (pensate solo al numero di social a disposizione da Facebook ad Instagram, Twitter, Telegram fino ai meno noti da questa parte del globo ma più utilizzati ad altre latitudini) vengono generati a velocità che costringono gli analisti alla continua rincorsa.

L’attuale versione di Octolytics consente di effettuare ricerche all’interno di Twitter per parole chiave, restituendo tutto quello risulta rispondente ai criteri inseriti contenuti negli username, negli Hashtag o nei tweet. I risultati possono essere analizzati massivamente o puntualmente. Vengono salvati in apposito database affinché siano sempre disponibili per gli utenti. L’operatore ha a disposizione una dashboard attraverso la quale è possibile organizzare il contenuto per poterlo monitorare nel tempo, organizzando tweet ed hashtag come preferiti o raccogliendo i profili in apposite Blacklist categorizzate dall’analista stesso. In questo modo, si può analizzare il contenuto in diretta o tracciare il trend di un tema o il comportamento di determinati profili cercando di costruire un sistema che rimandi degli alert in caso di possibili “attacchi”. Va tenuto conto del fatto che la presenza in una blacklist non indica necessariamente che si tratta di un “cattivo” profilo quanto di un profilo di interesse, ad esempio di potenziali vittime dei bufalari.

Nel costruire il sistema abbiamo tenuto conto di quanto appreso dallo studio di casi noti e dalla letteratura offerta da professionisti. In base ad alcune regole, quindi, una prima valutazione di autori, diffusori e contenuti viene effettuata dal sistema stesso che svolge l’analisi degli elementi che gli diamo in pasto analizzando tutte le proprietà caratterizzanti, da vari punti di vista. Per un account sospetto, ad esempio, si potrebbe subito evidenziare il tipo di device utilizzato per pubblicare (ad es. un social media manager) unendo questa informazione al risultato dell’analisi di following e follower (pochi i primi, tanti i secondi) si potrebbe avere un primo indizio che l’account viene gestito da un BOT. I percorsi di analisi possono essere diversi ed articolati. Trattandosi di mondi prevalentemente social, non è possibile prescindere dall’applicazione della social network analysis. Octolytics consente di selezionare e visualizzare su apposito viewer alcune entità per tracciarne le connessioni ed analizzarle utilizzando le metriche di misurazione della vicinanza: Betwenness, Closeness e Degree. Per andare più in profondità, su impulso dell’analista, si può impostare una query che ricerchi legami indiretti tra entità (con due, tre, fino a quattro jump di distanza).
La suite è stata costruita cercando di non tralasciare nessuno degli aspetti caratterizzanti, anche il dato geografico viene sfruttato sia come parametro di ricerca che come criterio nella valutazione di tweet e account.
Comprendere se una notizia sia completamente falsa, se si tratti di manipolazione, di narrazione alternativa (tipica dei complotti), di satira richiede sempre che ci sia l’elemento umano per decifrarla e valutarla. Tutti i risultati reputati di interesse e di valore, quindi, vengono qualificati in ultima istanza dall’analista che, avendo a disposizione tutte le informazioni necessarie “giudica” il contenuto misurato.

Octolytics permette anche di “uscire” da Twitter e cercare nel resto della rete, ad esempio su Google, Facebook e ovviamente, all’interno del proprio database. In questo modo, altre informazioni significative vengono collegate agli altri dati. Un ulteriore punto di vista viene fornito utilizzando una TimeLine progettata e realizzata da S&A in cui vari thread possono leggersi mantenendo la tridimensionalità: tempo, contenuto, relazione. Risulterà più facile visualizzare percorsi e diramazioni, account ricorrenti, piccole variazioni su uno stesso tema. Oppure ricostruire tutta un’operazione di comunicazione, lanciata da più account, su più piattaforme social contemporaneamente.
Tra le varie operazioni che compie sui profili, Octolytics, tramite la funzione SmartAnalysis ipotizza quale sia il tipo di attività svolta dall’account analizzato, Influencer, Fake News Creator, o BOT. I parametri di queste tre categorie li abbiamo determinati studiando le regole generali per l’individuazione di fake news enunciate da diversi fact checkers e dai risultati ottenuti in mesi di sperimentazione con il sistema.
Alcuni dei parametri individuati per la definizione della tipologia dei profili, sono i seguenti:.

 

5. Un esempio di analisi
Analizzando i contenuti della pagina Facebook di un noto detrattore del debunker David Puente, ho trovato un post in cui instilla il dubbio che esistano verità sottaciute riguardo il crollo del ponte Morandi di Genova. Tra le risposte ho trovato il riferimento a un video pubblicato su YouTube da un canale con ben 59.719 iscritti. L’autore insinua che il crollo del ponte sia stato programmato.

Abbiamo così pensato di attivare Octolytics per verificare se questo thread avesse avuto un seguito:
In Octolytics abbiamo inserito le parole chiave “ponte” “Genova” “Morandi”
Il sistema ha restituito un elenco di tweet, ne è stato selezionato uno il cui contenuto sembrava sospetto e salvato come preferito
Come prima cosa abbiamo esplorato il link che rimandava alla pagina di YouTube con il video. Dopo aver visto il video, ritenendolo interessante, lo abbiamo salvato e appuntato i due # con cui è stato pubblicato.

 

Abbiamo quindi analizzato il profilo dell’autore, cercando tramite Octolytics abbiamo trovato l’account Twitter.

Il sistema effettua una prima analisi completa del profilo. La SmartAnalysis, esclude si tratti di un BOT o di un influencer segnalandolo invece come potenziale Fake News Creator.
Passando all’analisi dei suoi tweet, il primo che appare in elenco è proprio quello in cui è postato il rimando al video; ricercando anche su Facebook si trovano la fan page e diversi post che rinviano al video su YouTube.
Analisi del singolo tweet, il quale, dalla pubblicazione avvenuta il 30 agosto, ha avuto pochi ma costanti retweet. Esplorando i Retweet usando la funzione Raggruppa per hashtag si scopre una propagazione del video attraverso diversi thread non direttamente collegati al primo originale.
Risultato: il contenuto dei tweet, il contesto in cui scrive, cui si rivolge, fatta una valutazione di insieme delle misurazioni restituite da Octolytics abbiamo assegnato al profilo 4 Pinocchi (secondo la scala di valutazione suggerita da Glenn Kessler) e inserito l’account nella Blacklist relativa ai Creatori di Fake News.
Avere una rete di contatti che veicolino le notizie, è fondamentale, quindi ricostruirla è compito imprescindibile. Inviamo l’account al Viewer per cercare di ricostruirne le connessioni. Ipotizzando che avesse qualche contatto tra gli account presenti nelle blacklist precedentemente create e ampliando la ricerca appare una connessione indiretta con un nostro profilo.

Abbiamo trovato questa connessione svolgendo l’attività di analisi. Ciò dimostra che tutti possiamo rimanere coinvolti rischiando di diventare involontari divulgatori di notizie. Talvolta anche false.

Il risultato dell’analisi suggerisce l’esistenza di ulteriori percorsi, di questo stesso thread su altre piattaforme. La TimeLine di Octolytics consente di condividere contenuti estratti da Telegram da Facebook, o da altri social, riunendo in un’unica tavola mondi apparentemente separati, uniti da connessioni nascoste che, un sistema molto efficiente ed un analista di grande esperienza possono ricostruire superandone l’apparente inaccessibilità.

 

6. Conclusioni
La tecnologia, senza il supporto dell’intelligenza umana, quindi, del buon senso, dell’analisi di contesto, della conoscenza profonda di linguaggi variegati e codificati tipici di gruppi chiusi, non è in grado di individuare e contrastare produttori e diffusori di fake news. È altrettanto vero tuttavia, che il miglior analista non può svolgere i suoi compiti, senza il supporto di apparecchiature, algoritmi, procedure informatiche altamente sofisticate, costantemente aggiornate.

Sistemi & Automazione, per progettare e realizzare Octolytics, lavora congiuntamente con esperti di intelligenza artificiale, analisti fact-checkers con esperienza consolidata, conoscitori di mezzi di comunicazione di vecchia e nuova generazione. Come abbiamo visto all’inizio di questa dissertazione, il ricorso alle fake news o alla narrazione alternativa è vecchia di parecchi secoli e, a quanto sembra, fenomeno inarrestabile. Le soluzioni individuate, quindi, non sono definitive ma possono segnare una via da perseguire a lungo per ottenere risultati di successo. ©

 

 


Altri articoli di Sistemi & Automazione

MONEY DIRTYING NEL FINAZIAMENTO AL TERRORISMO: FOLLOW THE MONEY. STRATEGIE DI CONTRASTO AL FINANZIAMENTO DEL TERRORISMO INTERNAZIONALE
di Pellegrino Costa e Sara Bartolucci (N. III_MMXVII)
In passato il riciclaggio di denaro “sporco” da parte di organizzazioni criminali era ritenuto fonte primaria di inquinamento dei mercati finanziari; oggi, analoghi metodi sono attuati da parte di organizzazioni terroristiche nello scenario internazionale, con l’obiettivo di autofinanziarsi tramite la manipolazione di assetti leciti ed illeciti, alterando, al contempo, mercati e circuiti finanziari. Sono noti i fenomeni connessi alla crescita di un’economia criminale nei territori controllati da Daesh. Sono importanti gli aspetti tecnico-finanziari del fenomeno, ove la “moneta buona” copre quella “cattiva” e le due monete finiscono per ibridarsi. In via strumentale, si assiste ad un patto di complicità con operatori che divengono de facto essi stessi oggetti e soggetti complici del riciclaggio e del finanziamento del terrorismo. Nell’azione di contrasto, l’analisi e l’approfondimento delle segnalazioni concernenti le cd “transazioni finanziarie sospette” rappresentano i pilastri fondamentali del metodo investigativo, in analogia a quanto realizzato nel contrasto al crimine organizzato di matrice mafiosa. Il fattore centrale di successo è, quindi, uno strutturato impegno nell’intelligence finanziario sugli assetti patrimoniali dei contesti terroristici.
NUOVE TECNICHE DI ANALISI AL SERVIZIO DELLE ATTIVITÀ DI CONTROLLO E PREVENZIONE DELLE INFILTRAZIONI POST TERREMOTO
di Maurizio Noviello (N. IV_MMXVI)
Dal punto di vista dell’esperienza storica, le attività di analisi investigativa effettuate sugli interventi di ricostruzione dopo il terremoto dell’Aquila costituiscono un interessante riferimento per attività future di controllo e prevenzione delle infiltrazioni criminali a seguito di gravi eventi calamitosi. La necessità di monitorare, gestire e conservare informazioni provenienti da diverse aree di attività (assegnazione appalti privati, amministratori di condominio, consorzi di imprese e imprese singole, lavoratori, mezzi ecc.) rende indispensabile l’utilizzo di software che permettano di applicare l’Analisi Visuale per svelare ruoli e relazioni di interesse (Social Network Analysis) combinando insieme accertamenti immediati su fonti esterne e Social Media, per favorire lo studio incrociato dei dati e la loro conversione in Informazione utile alle investigazioni, specie in sede preventiva.
SOLUZIONI INNOVATIVE APPLICATE ALL’ANALISI INVESTIGATIVA RIVOLTA ALLO STUDIO DELLE RETI CRIMINALI
di Sara Boschin (N. II_MMXVI)
Il ruolo crescente che gioca la Social Network Analysis nella risoluzione dei crimini non solo ha aumentato la domanda di strumenti tecnologici, ma ha offerto anche opportunità illimitate alle nuove strategie di analisi precedentemente non disponibili. Vengono realizzati software che, da una parte rendano possibile la sua applicazione su una gran mole di dati e dall’altra, consentano di utilizzare nuove tipologie di misurazione dei dati, non ancora applicate nell’analisi di Intelligence, ma che sono estremamente efficaci nello svelare i modelli strutturali sottostanti le reti criminali e nel fornire quindi dei validi suggerimenti per la soluzione dei casi.
IL RUOLO DEI SOCIAL MEDIA NELL’INVESTIGAZIONE
di di Sara Bartolucci (N. I_MMXVI)
Nelle attività di contrasto alla criminalità, negli ultimi anni ha assunto grande rilevanza la capacità di analisi, di comprensione e di predizione di eventi e fenomeni criminali complessi. In tale contesto, si diffonde e riconosce l’utilità nell’ambito delle attività info-investigative che spaziano dalle comunicazioni telefoniche alle organizzazioni criminali, ai gruppi terroristici, dai social media e dall’analisi delle reti sociali, partendo dall’osservazione fondamentale che la maggioranza delle informazioni oggetto di investigazione da parte delle forze dell’ordine sono notizie di natura relazionale.