Ieri, 23 settembre, ero alla Biblioteca dello Stato Maggiore dell'Esercito per la presentazione dello studio sulla guerra cognitiva, realizzato dal Centro Studi Esercito, che supporta lo Stato Maggiore dell'Esercito attraverso analisi, ricerca e riflessione dottrinale sui temi della difesa. In sala c'erano rappresentanti delle istituzioni, delle forze armate, delle università e delle aziende della difesa. La giornata è stata lunga e ricca di spunti. Provo a raccontarla in modo semplice, perché il tema riguarda chiunque abbia uno smartphone in tasca.
La guerra non è solo quella che vediamo, purtroppo, ogni giorno ai telegiornali. Ce n'è una più subdola, invisibile ai più, che si combatte nella mente: la guerra cognitiva punta a colpire percezioni, convinzioni e capacità decisionali, prima ancora di un qualsiasi scontro fisico. Non serve un'arma. Serve un messaggio che arrivi al momento giusto, alla persona giusta. Disinformazione, bias cognitivi e manipolazione algoritmica diventano armi vere e proprie, capaci di erodere la fiducia nelle istituzioni e la coesione di un Paese.
Un esempio fatto in apertura ha reso bene l'idea. Un comandante che deve decidere durante un combattimento porta con sé anche le notizie false e le narrazioni che ha assorbito per settimane o per mesi, spesso senza accorgersene. Lo stesso vale per chi decide a livello politico e per un dirigente d'azienda. Una scelta sbagliata, condizionata da una fake news, può costare molto cara.
Si è parlato prima di tutto di come funziona la macchina della propaganda moderna. C'è chi costruisce la narrazione, cioè la storia da raccontare. Ci sono persone credibili che la rilanciano e le danno peso. Ci sono poi i botnet, reti di account automatici che la spargono ovunque e sono studiati per colpire le nostre emozioni. Alla fine il bersaglio siamo noi. Nulla di tutto questo è nuovo, la propaganda esiste da sempre. La differenza è che oggi la superficie d'attacco è enorme, perché passa dai nostri telefoni. Ed è stato ricordato che ognuno di noi riceve ormai un messaggio su misura, e non più uno uguale per tutti.
Una parte dell'incontro è stata quasi filosofica, ma molto concreta. Si è parlato di post-verità, cioè di una verità parziale, costruita per fare comodo a qualcuno, come quando si vende un prodotto elencando solo i pregi. Più perdiamo i nostri valori, più diventiamo facili da manipolare. Un altro punto riguarda l'attenzione. Se abituiamo i giovani a scorrere video per ore, togliamo loro la capacità di concentrarsi e di riflettere a fondo. E chi non riesce più a riflettere è preda di qualsiasi campagna, di marketing o di informazione. Il rimedio indicato è antico: conoscere se stessi. Chi riconosce le proprie emozioni e le sa controllare è più difficile da manipolare. Non a caso i test psicologici dei militari misurano proprio questa capacità.
Si è discusso anche del nome. Secondo alcuni sarebbe meglio parlare di manipolazione cognitiva. La parola "guerra" richiama morte e distruzione e rischia di essere alleggerita. Un altro argomento trattato riguarda il ruolo dei militari. Le forze armate non hanno, né devono avere, una grande "potenza di fuoco" mediatica. Possono al massimo diffondere un comunicato. Poi spetta alla stampa libera decidere se rilanciarlo o meno, com'è giusto in una democrazia.
Molto interessante anche la parte scientifica. Il concetto chiave è il framing, cioè la cornice in cui ci viene presentata un'informazione. Se ti dicono "20% di grasso" oppure "80% magro", il dato è identico, ma lo giudichi in modo diverso. In uno studio sui morti per Covid, lo stesso numero scritto in formati diversi ha provocato reazioni fisiche diverse, misurate sulla pelle e sui muscoli del viso, e comportamenti diversi. C'è poi il priming: se ti mostrano prima un coniglio e poi un disegno ambiguo, continuerai a vedere un coniglio, a conferma del fatto che conta anche l'ultima cosa che hai visto. Da qui un punto importante: la disinformazione è solo uno dei tanti strumenti. E' infatti possibile manipolare le persone anche con informazioni vere, cambiando il modo in cui le si presenta.
Il cervello ha altri limiti. Non possiede un "sensore della verità": davanti a notizie plausibili non reagisce in modo diverso se sono vere o false. Una notizia smentita, poi, resta nella memoria se non viene sostituita da una spiegazione alternativa completa. E quando ci manca un pezzo di informazione, non lo lasciamo vuoto, lo riempiamo con qualcosa di coerente con quello che già pensiamo. Lo mostra il celebre esperimento sui pazienti "split brain", che davanti a una scelta strana giustificano il gesto con una storia inventata al momento, senza sapere di farlo. Su questo si innestano i meccanismi dei social: i titoli sensazionalistici catturano l'attenzione, le camere dell'eco ci rinchiudono tra chi la pensa come noi, i like attivano il circuito della dopamina e ci spingono a condividere. Il cervello si adatta all'ambiente. Se l'ambiente è veloce e superficiale, diventiamo veloci e superficiali. Per questo è stato usato il termine "brain rot", il logoramento della mente. E il messaggio è che difendere la propria capacità di pensare è un atto strategico, come difendere un confine.
Con l'intelligenza artificiale il problema cambia scala. È stato ricordato che non è paragonabile alla rivoluzione di internet negli anni Novanta, perché cambia il modo in cui viviamo e decidiamo. Sono stati portati esempi molto concreti. Un falso profilo LinkedIn del 2019, noto come "Katie Jones", usava una faccia generata da una rete neurale per agganciare contatti importanti. Profili falsi sono stati usati per avvicinare migliaia di dipendenti pubblici in Germania. Account creati con l'IA sono passati in poche settimane da poche centinaia a oltre un milione di follower, senza persone vere dietro. Un gruppo filorusso recluta volontari e li paga in criptovalute per fare attacchi informatici. Un chatbot, che risponde subito e sembra sempre attento, può costruire fiducia e intimità molto più in fretta di un essere umano. In Ucraina, dopo l'uccisione di civili, l'immagine di una telecamera è stata confrontata con miliardi di foto online tramite riconoscimento facciale, riducendo molto il numero dei sospettati. Un lavoro che a un analista avrebbe richiesto settimane. Secondo quanto riferito, una piattaforma di IA "agentica", usata per scegliere obiettivi militari, avrebbe definito i danni ai civili "danni collaterali". Si è parlato anche di regole: la legge italiana sull'IA e una legge cinese del 2017, che chiede a cittadini e organizzazioni di collaborare alle attività di intelligence. E del rischio di dipendere da piattaforme prodotte all'estero. Il prossimo studio del Centro riguarderà proprio i posti di comando e il rapporto tra ufficiali e IA, dove l'ultima parola dovrebbe restare a una persona.
Interessante anche la parte più pratica, su come si muove l'Esercito. La guerra cognitiva è stata descritta su tre livelli: l'infrastruttura fisica, dove passano i dati; il livello dei dati e degli algoritmi, che serve a conoscere e dividere il pubblico; e quello dei messaggi, cucito sui nostri pregiudizi. Per difendersi, l'Esercito ha lanciato una campagna interna con video, podcast e poster, un corso pilota sulla disinformazione e un gioco a quiz a livelli, in cui il militare impara a verificare le fonti e a riconoscere le campagne. Viene monitorato anche l'ambiente informativo nazionale, per individuare i contenuti che danneggiano la reputazione della difesa. Sono stati mostrati esempi di immagini fabbricate con l'IA e di finte notizie costruite per far leva sulle emozioni.
Tre parole da tenere a mente: fact checking (controllare se una notizia è vera), debunking (smontarla quando già circola) e prebunking (spiegare in anticipo come funzionano le manipolazioni, prima che colpiscano). I consigli pratici valgono per tutti. Diffidare di ciò che ci fa arrabbiare o spaventare subito. Cercare la fonte. Controllare se una foto è vecchia o fuori contesto. Guardare i difetti dei contenuti generati dall'IA, come le mani con sei dita. E attenzione alle frasi false attribuite a persone famose.
Durante il dibattito è stato ricordato uno studio del 2019 del NATO StratCom (il Centro di eccellenza per la comunicazione strategica della NATO, con sede a Riga): con appena 60 dollari di pubblicità e account fake sui social, i ricercatori riuscirono a individuare 150 soldati, localizzare più battaglioni, tracciare i movimenti delle truppe e spingere alcuni militari a lasciare le proprie postazioni durante un'esercitazione, disobbedendo agli ordini. La risposta è stata che l'Esercito italiano sta distribuendo un vademecum sulle tecniche di manipolazione e ha una struttura dedicata, cosa rara in Europa. La difesa più solida resta però fatta di valori, addestramento e abitudine a dubitare. Si è parlato anche di cosa succede quando un rapporto sbagliato, o volutamente falso, arriva sul tavolo di chi decide. Il consiglio è addestrare le persone a fermarsi, a confrontarsi con un collega o un superiore e a non reagire "di pancia" alla prima notizia.
Da chi si occupa di OSINT e intelligenza artificiale, il mio punto di vista è semplice. Le tecniche per costruire un falso convincente sono ormai alla portata di tutti, e spesso costano quasi zero. Per questo la verifica delle fonti non è più un lavoro da specialisti, ma un'abitudine che dobbiamo avere tutti. Prima di condividere una notizia, chiedersi chi la diffonde, perché proprio adesso e cosa vuole farmi sentire. Il coniglio nell'immagine ambigua, alla fine, lo vediamo tutti. La vera difesa è sapere che qualcuno ce lo ha mostrato prima.