Menti sotto assedio. La proposta di Giussani: «Resistiamo all’intelligenza artificiale provando a capirla»

La vita digitale è da tempo parte integrante della nostra esistenza. In “La mente sotto assedio. Come non lasciarsi manipolare nell’era dell’intelligenza artificiale” (Edizioni Casagrande), Bruno Giussani, giornalista e podcaster che da decenni studia i rapporti tra tecnologia, geopolitica ed economia che caratterizzano l’era digitale, fornisce le informazioni per capire come funziona la nostra vita digitale e come affrontarla in modo più consapevole, tenendo conto delle manipolazioni di cui siamo vittime - coscienti o meno - e dell’interesse di grandi aziende private per i nostri dati, le nostre emozioni e la nostra percezione della realtà. «Quando ci troviamo confrontati collettivamente con una trasformazione di grande portata e velocità, la prima tentazione è spesso quella di imporre regole. Di rispondere con la legge, fissando limiti e definendo giuridicamente cosa è consentito e cosa non lo è» scrive Giussani raccontando una delle possibili forme di resistenza alle intrusioni più o meno visibili delle nuove tecnologie che minacciano la nostra integrità cognitiva.

Nel libro parla di “integrità cognitiva”, di cosa si tratta?

La nostra mente è costantemente presa come obiettivo da tecnologie che utilizziamo ogni giorno e che determinano le cose che facciamo, come le facciamo, le cose che conosciamo e in che modo le conosciamo, quindi il tipo di informazione attraverso cui capiamo il mondo. Oggi questa conoscenza è sempre più filtrata da schermi e piattaforme digitali che sono controllate da aziende private, quasi sempre americane. Questo fa sì che la nostra conoscenza può essere manipolata come la nostra capacità di capire la realtà e relazionarci a essa, in modi più o meno invisibili.

Quali sono quelli “invisibili”?

Per esempio degli slittamenti semantici nascondono un aggettivo e ne mettono in risalto un altro o che danno più risonanza a una voce piuttosto che a un’altra. Ma anche più semplicemente quello che vediamo sulle bacheche dei social non è quello che pubblicano i nostri amici, ma quello che l’algoritmo pensa di doverci mostrare per mantenerci più a lungo possibile davanti allo schermo. Questa operazione di filtraggio non è neutra, ma influenza la nostra capacità di capire il mondo: l’algoritmo sa che i contenuti più aggressivi attirano di più l’attenzione e tende a farci vedere primariamente quelli.

Dunque l’ “integrità cognitiva” è uno spazio di autonomia?

Sì, ma non solo individuale, anche collettiva. Dobbiamo proteggere la capacità di capire lucidamente il mondo e di decidere cosa fare in modo libero.

Perché siamo così attirati dall’IA?

Perché quello che offre è straordinario: quando usiamo sistemi di IA generativa per esempio, quelli che generano testi, immagini, codice informatico e altro, possono sembrare quasi magici, i benefici sono reali, possiamo farci scrivere in pochi secondi la bozza di una lettera, per esempio. Ma c’è un lato oscuro: più deleghiamo alla macchina pensiero, scrittura e decisioni, più rischiamo una perdita di capacità cognitive. Non succede solo con l’IA generativa. Pensiamo anche solo a Google Maps: molte persone oggi hanno perso la capacità di orientarsi.

Ma lei sostiene che occorre resistere a queste tecnologie pur usandole, parla di “resistenza tecnologica”: come si fa?

Il fatto è che queste tecnologie non sono più solo dei prodotti che noi possiamo scegliere di usare o non usare, in tanti casi sono diventate l’infrastruttura della nostra vita e del nostro lavoro. L’idea di resistenza tecnologica, che ho preso in prestito dal sociologo Neil Postman, non è un rifiuto della tecnologia. Il punto è usarla coscientemente. Bisogna capire quali di queste tecnologie finiscono per sostituire la nostra capacità cognitiva o svolgono il ruolo di filtri tra noi e la realtà. Non dobbiamo solo imparare ad usarle, ma anche capire come sono fatte e perché sono fatte proprio così e chi le controlla.

L’IA generativa, soprattutto i chatbot, interagiscono con noi simulando una conversazione umana convincente e seduttiva. Nel suo saggio però sostiene che potrebbero funzionare anche in altro modo: come?

Ogni tecnologia non è un avvenimento naturale o che discende dal cielo, ma il risultato di una serie di innovazioni e di scelte e ognuna di queste scelte poteva essere diversa da com’è stata. Potremmo chiederci se esiste un approccio tecnologico che ci permetta di fare le stesse cose di smartphone, social e chatbot senza trasformare la tecnologia in un meccanismo di sorveglianza e controllo delle persone. Io credo sia possibile.

Cosa intende per sorveglianza?

Il modello dominante della tecnologia digitale odierna è basato sulla raccolta di informazioni e dati personali degli utilizzatori, che permettono di sviluppare ulteriormente la tecnologia, di mostrarci pubblicità, di farci fare cose che non faremmo in un contesto libero, fosse anche solo cliccare su un’icona o acquistare qualcosa online. Sono convinto che siano possibili approcci tecnologici che fanno grosso modo le stesse cose senza per questo spiarci. Per esempio potrebbero essere interoperabili e “portabili”, cioè permetterci di passare da una piattaforma a un’altra migliore spostando tutti i nostri dati, come quando si cambia compagnia telefonica, cosa che invece ora sui social è impossibile. Il problema è che Queste tecnologie sono come sono per ragioni economiche e di potere. Sono frutto di scelte prese secondo la visione del mondo americana, fatte all’interno di un quadro legale americano, ma che noi subiamo anche qui

Parliamo d’Europa: nel saggio lei invita a disamericanizzarsi, a trovare soluzioni alternative ai software americani. Si può?

Il problema dell’autonomia dai sistemi tecnologici americani - il fatto cioè che i Paesi europei, le aziende europee, l’economia e le amministrazioni europee dipendano largamente da tecnologie americane molto legate a un governo che ultimamente è ostile verso l’Europa - inizia a essere noto. La fase in cui ci troviamo però è un po’ schizofrenica: da un lato c’è una presa di coscienza del problema, dall’altro ci sono tantissime iniziative che vanno nella direzione giusta ma in ordine sparso. Stiamo investendo nello sviluppo di tecnologie europee, privilegiamo i fornitori europei in certi settori, stiamo sviluppando data center controllati da noi e così via ma ancora in modo sparso.

Ci fa un esempio per capire meglio?

Airbus che è europea come azienda ed è il più grande costruttore mondiale di aerei commerciali in diretto competizione con l’altro grande costruttore americano, Boeing, ha messo fino a poco i propri dati sul Cloud di Amazon... azienda americana. Ora si sono resi conto che è un problema e sono passati a un Cloud francese, Scaleway, ma per un altro servizio di Airbus hanno mantenuto un contratto con Palantir, altra azienda americana.

Perché parla di autonomia e non di indipendenza?

Perché la parola indipendenza segnala quasi un desiderio di autarchia, un distacco dagli Stati Uniti, mentre quello che conta secondo me è la possibilità di scelta, la ricerca di un equilibrio che ci permetta di non essere del tutto dipendenti da tecnologie americane.

Quando il suo saggio è uscito non era ancora stata pubblicata l’enciclica Magnifica Humanitas di Papa Leone XIV, l’ha letta?

Certo. In tanti l’hanno descritta come uno scritto sull’IA, mentre è uno scritto su noi umani nell’era dell’IA, infatti si chiama Magnifica Humanitas, e non magnifica tecnologia. Fra le altre cose, Papa Leone si chiede dove sta il limite tra il buon uso e sviluppo della tecnologia e uno sviluppo negativo e si risponde che quella linea rossa che dobbiamo tenere a mente è la dignità umana. Dobbiamo cioè chiederci , mentre le sviluppiamo e le usiamo, se queste tecnologie la espandono o la calpestano. Questo fa dell’enciclica un documento fortemente politico proprio perché l’IA è un tema politico.

Il valore aggiunto del suo saggio è una ricca bibliografia sul tema, ci suggerisce qualche altro titolo?

Sono due libri usciti dopo il mio. Suggerirei due libri che non ho potuto citare. Uno è “Qualcosa è andato storto: come i social e l’IA ci hanno rubato il futuro”, di Riccardo Luna. L’altro non è ancora disponibile in italiano, uscirà in gennaio, è della filosofa Carissa Véliz e in inglese s’intitola “Prophecy”, profezia.

Una breve bibliografia per saperne di più

La mente sotto assedio

Diviso in due parti - una intitolata “la minaccia algoritmica” e l’altra “piccolo manuale di resistenza” - il saggio di Bruno Giussani, pubblicato da Edizioni Casagrande, si propone ai lettori come un primo sguardo critico sul mondo dell’IA e delle nuove neurotecnologie che sempre più permeano la nostra quotidianità. Grazie a conversazioni con esperti internazionali del tema, numerose letture e citazioni, Giussani propone al lettore un atteggiamento “resistente” ma non anti tecnologico, basato sull’approfondimento costante di cosa sono e come funzionano le intelligenze artificiali.

Difendere il nostro cervello

Professoressa di diritto alla Università Duke, Nita Farhany è convinta che le nuove tecnologie potrebbero migliorare le nostre vite. In questo saggio uscito in Italia per Bollati Boringhieri, considera però anche un altro lato della faccenda: nelle leggi e nei trattati internazionali nulla ci garantisce sovranità sulla nostra mente.

Ipnocrazia

Uscito in Italia nel 2025 per Tlon, a firma di un giovane filosofo cinese di Hong Kong, Jianwei Xun, descrive il “nuovo regime di realtà” in cui il potere agisce influenzando con gli algoritmi gli stati di coscienza collettivi. Si è scoperto poi che il giovane cinese non esiste: il libro è una performance narrativa del filosofo Andrea Colamedici, realizzato con due IA per esporre un’idea e al contempo dimostrarla.