Social Bot: la tecnica dietro alle fake news

Che cos’è un social bot? Si tratta di un termine legato all’universo di Internet che ha spesso fatto capolino nella cronaca politica internazionale: in particolare in riferimento all’elezione di Donald Trump negli Stati Uniti e al referendum sulla Brexit nel Regno Unito. Questi social bot vengono chiamati anche “bot politici” e hanno lo scopo di influenzare le discussioni sui social network. Voci simili hanno occupato le pagine dei giornali anche in occasione delle elezioni politiche tedesche e quelle italiane dello scorso 4 marzo. Ma sono veramente così determinanti da influire su eventi di così ampia portata? Cosa si cela dietro un social bot e come funziona?

I social bot simulano di essere utenti umani sui social network; ma lo fanno talmente bene che sono difficili da smascherare. Gli altri utenti finiscono per confondersi e danno per scontato di trovarsi di fronte a utenti umani. Questo tipo di bot viene spesso utilizzato per diffondere un’opinione o per fomentare una discussione, con l’obiettivo di favorire una parte piuttosto che un’altra.

Anche le aziende utilizzano i social bot per fini promozionali, ad esempio per fingere una popolarità per i propri prodotti maggiore di quella reale. Un modo per farlo è quello di fare creare ai social bot delle recensioni di prodotti fasulle e chiaramente positive. Tuttavia il nome di “bot politici” non è casuale, infatti è sempre più diffusa l’idea che i bot siano in grado influenzare le discussioni pubbliche. La modalità è quella di screditare l’immagine del politico del partito oppositore, spesso attraverso la disinformazione. Non sorprende infatti che a questo tipo di teconologia vengano associati termini e concetti come “fake news”, “discorsi d’odio” o “filterbubble”

L’effetto polarizzante dei social bot rende la vita difficile a giornalisti e aziende di comunicazione, così come anche a umanisti e sociologi. D’altro canto però, vista l’importanza che i social bot stanno acquisendo, si è venuto a creare un settore completamente nuovo, totalmente basato sul loro sviluppo e utilizzo. Infatti l’impiego di social bot non solo è legale e garantito dalla legge, ma rappresenta anche un business molto lucrativo.

Tuttavia si raccomanda di fare attenzione a non demonizzare frettolosamente questa tecnologia. Infatti in alcuni ambiti può essere di grande aiuto senza dover causare danni collaterali, ad esempio come programma di chat automatizzata sui siti delle aziende con il compito di rispondere alle domande dei clienti.

Per capire quali sono i pericoli che si corrono con i social bot e come fare a riconoscerli, è necessario sapere innanzitutto come funziona la tecnologia su cui si basano i bot. Qui di seguito approfondiamo che cos’è realmente un bot e vi illustriamo i vari tipi di bot che esistono.

Un bot (derivante dalla parola inglese “robot”) è un programma automatizzato, programmato per svolgere determinate azioni in maniera regolare o reattiva. Tutto ciò senza dover far affidamento sull’intervento umano. Il bot analizza le circostanze e decide autonomamente quale azione eseguire.

I vari tipi di bot si distinguono in base alla complessità tecnologica del loro sviluppo. La gamma va da semplici algoritmi fino a tecnologie di IA (Intelligenza artificiale) con un elevato grado di complessità. I bot che sono dotati di intelligenza artificiale sono capaci di apprendere: scoprendo man mano l’ambiente che li circonda, si adattano a esso.

In base alla propria funzione, un bot risulta difficilmente riconoscibile come tale per gli utenti umani ed esegue il proprio lavoro senza essere notato o presentandosi addirittura come utente umano, imitandone il comportamento. Qui di seguito vi presentiamo alcune tipologie di bot:

• Webcrawler: in qualsiasi categoria ci sono bot che lavorano sotto la superficie. La maggior parte di questi viene utilizzata dai motori di ricerca per poter spulciare il web autonomamente. Per lo più si tratta di bot che si attengono agli standard di comportamento. Tuttavia ci sono anche webcrawler che trascurano tali norme e raccolgono dati senza permesso.
• Chatbot: contrariamente ai webcrawler i chatbot funzionano in maniera reattiva, reagendo agli impulsi forniti dall’attività umana e sono specializzati nel rispondere con criterio agli altri membri di una chat. Si è soliti imbattersi in questo tipo di bot quando ricoprono il ruolo di assistenti digitali. Ad esempio un assistente digitale può guidare un utente all’interno di un sito web o rispondere a domande relative a un tema o a un’offerta. Anche assistenti vocali come Siri od OK Google o ancora Amazon Echo o Google Home si basano su questa tecnologia di chatbot.
• Giocatori virtuali controllati dal computer: anche in molti giochi delle console o del computer sono necessari dei giocatori che agiscano reattivamente al comportamento del giocatore umano. Queste operazioni vengono gestite dai bot. Si parla perciò di personaggi non giocanti (nei giochi di ruolo), di aimbot (nei giochi d’azione), di pokerbot (nei giochi di poker) e di altri ancora. Come già accennato questi bot sono reattivi, ovvero operano in base agli stimoli dati dal giocatore umano, e utilizzano sempre più l’intelligenza artificiale. Un esempio spettacolare è l’intelligenza artificiale di Google che prende il nome di AlphaZero, davvero impressionante sia nel gioco degli scacchi che nel gioco da tavolo Go.
• Social Bot: si tratta di qualsiasi bot che viene utilizzato di nascosto nei social network. Sono bot che lavorano sia in maniera ripetitiva che reattiva: mettono “mi piace”, commentano, ritweettano e tentano di coinvolgere gli altri utenti nelle discussioni e di provocarli. Per cercare di far reagire gli altri utenti dissimulano il loro essere artificiali e si spacciano per utenti umani.

Il webcrawler e il chatbot sono i due tipi di bot fondamentali. Le attuali generazioni di bot combinano spesso le loro funzioni di base: l’analisi di dati effettuata dietro le quinte, tipica dei webcrawler, e la simulazione di comunicazione umana dei chatbot. Questo vale chiaramente anche per i social bot.

Un social bot è un programma automatico che simula il comportamento umano nei social network. I social bot prendono parte a discussioni su Twitter o Facebook, pretendendo di essere degli utenti in carne e ossa. Sui social media condividono contenuti relativi a un determinato tema, per lo più con lo scopo di influenzare l’opinione pubblica.

I social bot vengono spesso utilizzati nel settore del marketing o a fini politici. Non di rado diffondono anche cosiddette fake news, ovvero notizie false. In questo modo sono in gradi di influenzare discussioni e il clima nel quale avvengono su Internet. Per indirizzare l’opinione pubblica i social bot utilizzano tecniche specifiche, appartenenti anche ad altri tipi di bot: cercare discussioni sui social network relative a un tema precedentemente indicatogli (analisi di dati come avviene con i webcrawler) e influenzandole prendendovi parte (simulazione di conversazione come avviene con i chatbot).

Per quel che riguarda le loro funzioni i social bot assomigliano decisamente ai chatbot o più in generale agli assistenti digitali, anche essi infatti sono votati alla comunicazioni tra utenti umani. Chiaramente c’è una differenza decisiva: mentre nella maggior parte dei casi i chatbot rappresentano un servizio di consulenza pensato per aiutare l’interlocutore, i social bot hanno l’obiettivo di illuderlo e manipolarlo. Mentre nel caso dei chatbot l’essere riconosciuti come entità virtuale non rappresenta necessariamente uno svantaggio, per i social bot la dissimulazione votata all’inganno dell’interlocutore è la base fondamentale del loro successo; i loro tentativi di influenzare l’opinione pubblica non verrebbero altrimenti presi in considerazione.

Di esempi sull’utilizzo manipolativo dei social bot ce ne sono molti. Solo negli ultimi anni il loro utilizzo è stato registrato in praticamente ogni grande elezione pubblica: in modo particolare a essere finiti sotto l’occhio del ciclone sono stati il voto sulla Brexit, sulle elezioni presidenziali negli Stati Uniti e quelle parlamentari in Francia, Germania e più recentemente in Italia.

• Brexit: nel giugno 2016 la maggioranza dei votanti ha approvato l’uscita del Regno Unito dall’Unione Europea. Prima del voto hanno avuto luogo intense discussioni sui social network riguardo cosa fosse più o meno giusto fare, in seguito è stata portata alla luce la partecipazione di social bot o bot politici, come riportato da molti giornali, con numeri diversi, tra cui l’Independent.
• Elezioni presidenziali negli Stati Uniti: Donald Trump è stato eletto 58esimo presidente degli Stati Uniti d’America nel novembre del 2016. Anche qui sono spuntate fuori numerose informazioni su quanto i social bot abbiano influenzato l’esito della sua risicata vittoria elettorale. Secondo una ricerca di due studiosi italiani condotta su 20 milioni di tweet e riportata su Repubblica, la percentuale di messaggi inviati da bot automatici sarebbe stata addirittura del 19%. Riguardo alle fake news, quella relativa al benestare del papa a Donald Trump, totalmente falsa, è stata condivisa quasi un milione di volte, da utenti in carne e ossa e da social bot. Anche l’elezione di Hillary Clinton è stata supportata dall’utilizzo di social bot, seppur in maniera minore.
• Elezioni politiche in Germania e Italia: proprio per via delle esperienze con le recenti elezioni nel Regno Unito e negli Stati Uniti, molti in Italia e Germania erano preoccupati che i bot politici potessero influenzare l’opinione pubblica anche a casa propria. In Germania i partiti politici, sollecitati dalla Merkel, hanno osteggiato l’utilizzo dei social bot nelle elezioni politiche, nonostante siano permessi per legge. Per via del raggio d’azione relativamente limitato di Twitter sia in Italia che in Germania, sembrerebbe che le elezioni politiche nei due paesi non siano state pesantemente influenzate e che il numero di social bot sia stato contenuto.

L’influsso reale che i social bot hanno sull’esito delle elezioni è difficile da stabilire. In modo particolare la Brexit e l’ancora più sorprendente elezione di Trump a presidente degli Stati Uniti hanno caratterizzato la cronaca italiana e internazionale per mesi, spesso presupponendo l’utilizzo di bot politici come supplemento segreto per il buon esito delle elezioni. L’evidenza degli effetti dei social bot e delle loro fake news provocano una perdita di fiducia nei confronti della comunicazione digitale.

Un social bot posta i propri contenuti per lo più tramite account fasulli dotati di una foto profilo, post precedenti e spesso addirittura follower e amici. Attraverso questi account il bot diffonde i suoi messaggi, che siano di marketing o che abbiano finalità politiche. Questo non avviene solo sotto forma di post e commenti, ma anche con più semplici like e retweet. Attraverso un’interfaccia di programmazione (API) il bot ottiene accesso ai social network e può sia ricevere che inviare dati.

I social bot agiscono per lo più durante il giorno, ovvero anche quando gli utenti umani sono mediamente più attivi. Tuttavia postano i propri contenuti a intervalli variabili, in questo modo viene camuffata la loro identità di macchina virtuale.

Inoltre un social bot può anche inviare richieste d’amicizia. Se una tale amicizia viene confermata da utenti umani, i loro dati finiranno in mano ai bot che potranno raccoglierli e analizzarli. Già nel 2011 uno studio canadese approfondiva la capacità dei social bot di raccogliere dati e catalogare informazioni degli account delle persone con le quali stringono amicizia.

Molti social bot sono programmati con semplici algoritmi che si basano sull’implicazione logica if-then (formula “se-allora”): se viene identificato un tema rilevante, allora il social bot posta i suoi contenuti prestabiliti. Per scovare i temi giusti i social bot utilizzano delle ricerche di parole chiave semplici (short tail keyword) scandagliano la timeline di Twitter o i post di Facebook alla ricerca di determinate parole o hashtag. Dopodiché pubblicano testi e messaggi già pronti o tentano di condurre le conversazioni in una certa direzione.

Tuttavia ci sono anche social bot tecnicamente più complessi. Grazie all’aiuto dell’intelligenza artificiale, di approfondite analisi dati e della valutazione dei testi, ai social bot riesce sempre di generare nuovi commenti differenti da quelli già postati. Tra l’altro sono in grado di fare riferimento anche agli avvenimenti della giornata o agli ultimi aggiornamenti. Per lo più utilizzano testi presenti online per mettere insieme i propri interventi, riformulandoli. Questi bot tecnicamente più complessi sono ancora più difficili da smascherare.

I bot politici danno il meglio quando lavorano interconnessi: se i bot cooperano l’uno con l’altro in una cosiddetta botnet, ovvero una rete di bot, diffondono informazioni in maniera ancora più efficace. In questo modo i social bot possono mettere “mi piace” e condividere post che altri bot hanno creato e pubblicato. La loro influenza aumenta di pari passo con il numero di account collegati tra loro.

Lo sviluppo di un social bot semplice richiede poche capacità tecniche: ci sono tool che permettono di creare i propri social bot senza grandi conoscenze di programmazione. Altrettanto facile è mettere le mani su account utente falsi: in rete sono disponibili dei generatori che permettono di crearne facilmente dei nuovi, o, in alternativa, è possibile comprarne di già esistenti. Lo stesso vale per il software per la loro gestione, anch’esso acquistabile online. Attraverso un’interfaccia di programmazione si dotano i bot di accesso a Twitter o Facebook, dove potranno reagire agli hashtag e alle parole chiave precedentemente impostate. La semplicità con la quale è possibile trovare la tecnologia necessaria per la creazione di social bot ne favorisce considerabilmente la rapida diffusione.

Il grande aumento di bot è favorito anche dai social media, poiché sia Facebook che Twitter mantengono la propria interfaccia di programmazione facilmente accessibile incoraggiando gli sviluppatori di applicazioni a continuare a lavorare alla creazione di software utilizzabili all’interno della loro piattaforma. In questo modo e in questo senso non pongono ostacoli ai social bot; questo vale in particolar modo per Twitter, che lascia libertà di movimento alla maggior parte dei bot.

Chiaramente non è tutto permesso ai social bot, ci sono anche delle limitazioni da tenere in conto. Vengono infatti stabilite barriere tecnologiche che impediscono la creazione di account fasulli o quantomeno tentano di renderla più difficoltosa. Se si entra in possesso dell’indirizzo IP di un bot, questo può essere bloccato così da non permettergli più l’accesso alla rete.

Molte piattaforme si difendono dai social bot attraverso iCaptcha. I Captcha sono dei brevi testi che gli uomini sono in grado di superare solitamente senza difficoltà, ma con i quali al contrario i bot hanno grandi problemi. Di norma il test consiste nel digitare una successione di numeri che vi viene mostrata sottoforma di un’immagine spesso distorta, e che risulta di difficile lettura da parte di una macchina. Ma più sofisticato è il bot, maggiori saranno le probabilità che sarà in grado di risolvere il Captcha presentatogli.

Le funzioni basilari di un social bot sono pressoché sempre le stesse, tuttavia è possibile distinguere tra tre diverse tipologie secondo quelle che sono le sue funzioni:

1. Lo spammatore: lo spamattore è un bot che si occupa di inondare regolarmente un dibattito online con i suoi commenti sempre uguali, facendo invece passare in secondo piano altri, più validi, contributi. Il bot spammatore risulta davvero efficiente quando opera in cooperazione con altri bot. Se un’intera rete di questo tipo di bot lavora in maniera congiunta, mettendo “mi piace” e commentando, gli utenti umani perdono velocemente il controllo sulla discussione. Uno scambio di contenuti diventa quindi praticamente impossibile.
2. Il trend-setter:anche i trend-setter danno il meglio in team. Se un grande numero di social bot coordinati riesce a rendere proprio un determinato hashtag, allora possono raggiungere un ampio raggio d’azione riguardo al tema in questione. Se la cosa cresce al punto tale da diventare un trend su Facebook o Twitter, allora con ogni probabilità verrà pescato e affrontato dalla stampa. Così facendo i social bot sono arrivati a essere responsabili dell’effettiva rilevanza dell’area tematica scelta. I bot di tipo trend-setter fanno sì che i fenomeni marginali si trasformino in veri e propri trend e che un gruppo di limitate proprorzioni cresca fino a diventare un movimento sociale.
3. L’auto-troll: l’auto-troll, a differenza delle altre tipologie, opera in solitaria tentando di fomentare gli utenti che si esprimono riguardo a un dato tema, spesso con commenti provocanti atti a far controbattere l’utente. In questo modo la conversazione finisce per allontanarsi dal tema originario e quello che inizialmente voleva essere un contributo costruttivo finisce per diventare una discussione polemica e accesa. Uno scambio contenutisticamente valido tra utenti può quindi essere facilmente sabotato dai bot.

Rimane comunque complicato capire chi realmente si nasconda dietro a un social bot, poiché non è ancora stato sviluppato un metodo infallibile per identificare un account fake. In considerazione di ciò, risulta chiaro come sia ancora più difficile smascherare chi muove i fili di queste marionette digitali. Ad ogni modo, volendo forzare la mano e riconoscere dei macrogruppi, questi sono quelli che potrebbero trarre maggior vantaggio dai social bot:

1. Gli influencer e i marketer dei social network: le aziende, sia di piccole che di grandi dimensioni, possono utilizzare i social bot per favorire di nascosto le proprie misure di marketing. Come influencer invece si ha interesse nell’influenzare e lanciare nuovi trend per mezzo dei bot. Inoltre tramite i bot è possibile ottenere informazioni riguardo al proprio target. Infatti, come già accennato, basta che l’utente accetti la richiesta d’amicizia di un bot perché quest’ultimo abbia accesso a una grande quantità di dati dell’utente.
2. Attori politici: altri indiziati principali sono le lobby e gli attori politici. Ad esempio una delle ipotesi che va per la maggiore è che dietro agli account fake e ai social bot che hanno avuto un ruolo nelle recenti elezioni precedentemente elencate si nascondano degli hacker russi. La questione rimane poco chiara, ma certamente verosimile.
3. Altri attori con interessi nel condizionare l’opinione pubblica: possono essere privati, gruppi, organizzazioni e criminali. Praticamente un bacino di attori di difficile identificazione. La modalità è sempre e comunque quella di favorire un partito o di portare alla ribalta un tema specifico, o semplicemente di creare scompiglio. Molto spesso l’obiettivo è quello di diffondere contenuti politici estremi. Essendo questi gruppi eterogenei è inutile tentare di ridurre le intenzioni a qualcosa di specifico.
4. Attori senza interessi riconoscibili: una buona parte di social bot è comparabilmente innocua, come può essere quella che, attraverso i like e commenti, promuove discussioni a tema Star Wars. I bot di questo tipo non servono alcuno scopo immediatamente riconoscibile che abbia elementi politici o economici. Verosimilmente parte dei bot riconducibili a questo gruppo sono nati per la curiosità tecnica/tecnologica e dalla voglia di fare dello sviluppatore di turno.

L’obiettivo principale dei social bot è quello di influenzare le opinioni e i trend sui social network. Il grado di successo con il quale ci riescono o meno è tuttavia in forte discussione. Certo è che i social bot, o almeno una parte di essi, rischiano di polarizzare, radicalizzare e frammentare la società civile attraverso la promozione di notizie false, estremizzazioni e persino discorsi d’odio.

Per quel che riguarda invece le possibili conseguenze economiche: l’utilizzo di social bot può influenzare i corsi delle borse, l’efficacia degli annunci pubblicitari e la diffusione di malware. Con il loro alterare i numeri di interazioni sui social network, i social bot influiscono pesantemente, spesso in negativo, sul lavoro dei pubblicitari che fanno difficoltà a interpretare i risultati ottenuti.

Tuttavia la ricerca riguardo l’effetto dei social bot dovrebbe focalizzarsi maggiormente sul consenso. La speranza e la prospettiva è quella che nei prossimi anni la ricerca sociale fornirà dati più precisi a questo riguardo. Per motivi legati alla prevenzione è invece importante e sensato promuovere anche la ricerca tecnologica: mentre molti bot risultano per il momento ancora abbastanza facili da smascherare, con il progresso tecnologico e l’aumento della complessità dei bot potrebbe non essere più il caso. Inoltre la loro efficacia aumenterebbe. Per questo motivo è necessario sviluppare già da ora strategie per essere pronti a reagire al processo tecnologico quando si presenterà l’occasione.

Come anticipato, la crescente complessità dei bot rende più difficile la loro identificazione. Tuttavia ci sono delle domande che bisognerebbe porsi in relazione agli account sui social media, per essere in grado di valutare se di fronte a voi ci sia una persona o un algoritmo:

1. Quanto è credibile che un uomo abbia allestito in questo modo il proprio profilo? A fornire gli indizi sono spesso la foto profilo, quando è stato creato l’account e il comportamento dei follower e degli altri account seguiti dal profilo in questione: i bot sono soliti seguire un gran numero di account senza ricevere lo stesso trattamento. Se un account ha solo un numero esiguo di amici è allora assai probabile che si tratti di un bot. Ancora, la foto profilo potrebbe essere uno scatto paragonabile a quello di una modella professionista di facile reperibilità sul web? Anche l’armonia con il quale è costruito il profilo può svelarvi se si tratta di un account vero o meno, o in altre parole: c’è qualcosa che non torna? Inoltre vale la pena verificare quanto tempo fa è stato creato l’account. Molti social bot vengono creati immediatamente prima di venire utilizzati per i fini prefissati.
2. Che contenuti posta l’account? Se condivide o invia sempre gli stessi post costruiti magari con una scelta stranamente simile di parole o piuttosto link di articoli pubblicati sempre dagli stessi media; allora probabilmente si tratta di un bot con l’obiettivo di aumentare l’interesse e le interazioni attorno a un dato tema. Un altro segnale è uno stile d’espressione innaturale o inabituale, magari con errori grammaticali. Solitamente i bot postano più di quanto non commentino i contenuti altrui.
3. Quanto spesso l’account in questione condivide contenuti e mette “mi piace” a quelli altrui? Un ulteriore aiuto per determinare la natura di un account è la frequenza con la quale l’account è attivo sui social network. Un numero straordinario di post, like, retweet e quant’altro è chiaramente un segnale di comportamento innaturale come anche un certa ripetitività di post pubblicati giorno dopo giorno. Anche i tempi di reazione dell’account possono essere un indicatore: se dando un input in chat o commentando un suo post, l’account risponde sempre nel giro di pochi secondi, c’è qualcosa che non torna.
4. Come reagisce l’account a domande marginali? Uno dei metodi più affidabili per lo smascheramento di un bot è quello di sottoporgli domande di contesto. Si tratta di domande magari più marginali e legate al contesto. Ad esempio qualcosa di superfluo come: “Come ti sembra l’immagine del profilo della persona che ha commentato prima di te in questo post?” e state a vedere cosa risponde.

In generale è sempre buona cosa quella di tenere bene a mente il funzionamento dei vari social bot. Fate attenzione a comportamenti fastidiosi tipici dei bot del tipo spammatore o auto-troll e ancora più importante è che non cediate alle provocazioni né vi facciate distrarre. Ad ogni modo, che dietro a un account fastidioso e provocatorio si nasconda un bot o una persona, focalizzatevi sul continuare a discorrere in maniera pacifica e soprattutto costruttiva con gli altri utenti, sgonfiando così l’influsso negativo che altrimenti potrebbero avere.