Uscire dal territorio latente: da vittime dell'algoritmo a creatori di futuri

A valle del mio intervento a Bussola dello scorso 10 Luglio 2025, evento di riferimento dell’ecosistema culturale nazionale organizzato da Hangar Piemonte, ho riorganizzato i pezzi del mio discorso in questo pezzo. E’ lungo, lo so :-)

Uscire dal territorio latente: da vittime dell’algoritmo a creatori di futuri

Chiedete a un sistema basato su IA generativa informazioni sulla vostra città e probabilmente le troverà, ma se chiedete di raccontarvi le sfumature culturali, il tessuto sociale che rende unico il vostro territorio, otterrete una rappresentazione che se siete fortunati potrebbe risultare verosimile, in molti casi vi suonerà un tantino piatta o magari solo banalmente nozionistica, ma molto probabilmente incapace di restituire quella complessità che solo chi vive un luogo può riconoscere. E farebbe una certa differenza se chiedete di una grande capitale o invece di una frazione di un piccolo comune, magari sperduto in un’area interna senza storie universali raccontate dal cinema, senza scorci instagrammati o prodotti DOC esportati ovunque. Non è questione di informazioni mancanti, ma di contesti perduti, di significati che si dissolvono quando la cultura viene processata da algoritmi che non ne comprendono la grammatica profonda.

Per amministratori ed operatori culturali, questa non è riducibile ad una questione tecnica di recupero dati o di ingegneria del contesto documentale dell’algoritmo, si tratta della differenza tra una tecnologia che riesce a descrivere cosa c’è in un dato luogo e una che comprende perché è importante per la comunità.

Possiamo rappresentare il modo con cui i sistemi di IA generativa percepiscono le nostre identità culturali usando la miopia come metafora tecnologica: vedono bene solo ciò che è “vicino” ovvero ricorrente, meglio correlato, ciò che già esiste ben rappresentato nei dati di allenamento, mentre il resto rappresentato da meno dati, più “sparso”, è rumore, perdita, sfocatura. Prendendo in prestito il concetto di spazio latente dal vocabolario dell’apprendimento automatico¹ e accostandolo alla geografia, questo spazio di compressione e distorsione è quello che chiamo territorio latente: un luogo dove i significati si sciolgono e diluiscono, dove le nostre interazioni coi sistemi digitali generano risultati sub-ottimali, fatti di generalizzazione e vaghezza, in cui rischia di venire compromessa quella ricchezza relazionale fra patrimonio, paesaggio, persone e storie che caratterizza i luoghi.

Nel 2023, come Advanced Design Unit dell’Università di Bologna e con Paolo Cardini, professore alla Rhode Island School of Design (USA), ho organizzato il workshop “Cultural Bias Scavenger Hunt”² con l’obiettivo di scoprire come i modelli generativi perpetuano stereotipi culturali. I partecipanti hanno chiesto all’allora recentemente lanciato ChatGPT (testo) e a Midjourney (immagini), di descrivere rituali, cibi o giochi legati a specifiche tradizioni. Il risultato? Generalizzazioni, semplificazioni, allucinazioni, errori simbolici piuttosto gravi come proporre hamburger per una festa religiosa, o immagini distorte di bambini asiatici in contesti occidentalizzati. Un esempio emerso nel workshop fu un set di scacchi ispirato al famoso Esercito di Terracotta³, pensato per bambini cinesi: i modelli producevano immagini di scacchi internazionali (non cinesi), o nel caratterizzare il target del gioco proposevano acconciature stereotipate di un preciso periodo storico (non contemporaneo), inducendo riferimenti politici e culturali potenzialmente fuorvianti. Anche quando si cercava di correggere il prompt, i risultati tornavano a convergere verso una visione estetica dominante, anglosassone, problematica se non a volte profondamente errata dal punto di vista culturale. Come una foto generata da IA in cui nativi americani sorridono felici per un selfie: una collisione tra estetiche e comportamenti che non possono convivere, un artefatto del territorio latente⁴. Da allora questi applicativi sono migliorati, ma rimane impossibile curarne i difetti più profondi in modo definitivo (anche perché sono in realtà le loro caratteristiche intrinseche), senza nuovi paradigmi, senza nuove architetture tecnologiche e senza abbandonare la retorica ambigua e mistificatoria dei venditori.

io, vestito di nero, nella Cappella di Sant’Uberto alla presso la Reggia della Venaria Reale

La ricerca conferma quello che abbiamo osservato con un semplice esperimento, ovvero che i sistemi basati su modelli di IA generativa rischiano di diffondere stereotipi, diminuire la ricchezza linguistica privilegiando sistematicamente le culture dominanti⁵. Espressioni, tradizioni e modi di dire specifici dei territori vengono progressivamente appiattiti verso una “media” globale che non rappresenta nessuno in particolare. Più utilizziamo questi strumenti per produrre contenuti, più la nostra stessa creatività si conforma ai loro schemi, creando un circolo vizioso di omogeneizzazione culturale ⁶. Se ci siamo tanto spesi nel difendere l’autenticità di quello che mangiamo e che quindi immettiamo nel corpo (vedasi presidi, etichettature, anti-contraffazione, ecc.), perché non dovremmo lottare per salvaguardare quello che nutre le nostre menti?

Dobbiamo sforzarci di guardare alle tecnologie digitali come dispositivi culturali generati in un contesto specifico, e quindi mai universali in quanto sempre situate storicamente e simbolicamente, che dovrebbero essere pensate e implementate con l’obiettivo di preservare ed evolvere l’unità tra dimensione pratica e morale della tecnica. Come argomentato da Yuk Hui⁷, è necessario affrontare la questione cosmotecnica, ovvero cercare di tenere insieme senso e significati delle tecnologie nelle comunità per evitare che il disorientamento e la sensazione di sradicamento osservati già altrove, ci consegni ad un rifugio acritico nel localismo, al culto di tradizioni rese feticci da turismo mordi-e-fuggi, ma soprattutto all’incapacità di immaginare futuri da costruire, non appiattiti e omogenizzati come quei report generati dal collega che ha scoperto miracolose “app di intelligenza artificiale” gratuite ieri mattina.

Che ogni cultura possa costruire un proprio rapporto con le tecnologie – per intenderci, quelle che manipolano conoscenza –, rimarrà nel breve una provocazione intellettuale per pochi, ma nel comprendere che nelle applicazioni digitali vendute come universali, progettate e implementate altrove, la semantica generata è già adattata a una logica esterna, potremmo trovare le motivazioni per investire in questi ragionamenti complessi.

Il mondo della cultura può essere motore trainante di questo discorso, come peraltro ha iniziato già ad accadere con modalità di intervento per cui la ricerca artistica sull’interazione con la tecnologia assume sempre più il ruolo di campo sperimentale per prototipare dispositivi socio-tecnici riutilizzabili, oltre l’atto critico e performativo. Penso ad esempio al modo in cui l’esperimento del Data Trust sviluppato insieme all’installazione The Call di Holly Herndon e Mat Dryhurst per Serpentine⁸, ha mostrato come sia possibile: il dataset vocale non è solo risorsa ma comunanza. I coristi partecipano a protocolli di registrazione, composizione e governance che concedono loro diritti reali (non simbolici) sul dataset e sull’uso dei modelli AI derivati. Questo rende evidenti le linee di conflitto latenti in molti sistemi “universali”: chi controlla il dato controlla il significato.

Verso una “intelligenza di comunità”

Non ci sono risposte facili, ma il mio suggerimento è quello di abbracciare un approccio allo sviluppo tecnologico che cerchi di tenere insieme tutti i modi possibili e conosciuti di processare conoscenza collettivamente, sui territori, passando dalle persone, alla tecnologia ed alle altre forme di vita, tendendo a quello che chiamo intelligenza di comunità⁹. Da una visione ambiziosa che non si deve porre limiti tecnici (dalle IA di oggi all’inferenza attiva del mondo, dalla comunicazione inter-specie alla computazione biologica per fare qualche esempio), possiamo scendere ad un livello pragmatico e sin da oggi, potremmo progettare sistemi che non appiattiscono, ma che amplificano la diversità, coinvolgendo tutti, usando le IA per attivare relazioni, per guardare alla complessità dei nostri problemi con metodi meno lineari. In termini generali il discorso è articolato e contiene uno spettro di attività e processi che vanno dalla governance partecipata dei dati e degli algoritmi (usati per supportare decisioni, immaginare, analizzare, narrare il territorio, eccetera), alla progettazione e selezione di tecnologie sostenibili, fino alle dinamiche di collaborazione, scambio e condivisione della conoscenza sia dentro che e fuori la comunità.

Pratiche culturali sperimentali accompagnate da un atteggiamento curioso, ma critico sulle tecnologie costituiscono l’humus ideale su cui far crescere sia i piccoli progetti che le grandi trasformazioni socio-tecniche. Dalla concretezza di piccole soluzioni tecniche all’impatto politico di pluridecennali movimenti culturali, diverse esperienze ci dimostrano come sia possibile creare i componenti di una filiera tecnologica che rispetti queste indicazioni. Penso all’Afrofuturismo¹⁰, movimento culturale ed estetico che dalla diaspora africana, e in particolare da esponenti della comunità afroamericana, ha saputo creare narrazioni speculative che intrecciano eredità ancestrali, innovazione tecnologica e visioni di futuro alternativo. Scendendo invece sul piano tecnico, il gruppo Masakhane in Africa¹¹ ad esempio, lavora per integrare lingue locali che dispongono di poco materiale scritto e sotto-rappresentate nelle tecnologie digitali nei modelli di processamento del linguaggio. Altre esperienze, come il progetto Indigenous AI¹², che mira a definire logiche di implementazione algoritmiche per le comunità indigene, mostrano come la tecnologia possa diventare uno strumento di rielaborazione del paesaggio culturale che non più manipolativo, neo-colonialista, diviene identitario e profondamente collaborativo. La tecnologia può diventare così un terreno di rafforzamento e crescita comunitaria. Questi sono alcuni esempi di “cosmotecnica applicata”, in cui i sistemi tecnologici ed i loro requisiti epistemologici vengono plasmati dentro alle culture in cui vengono poi impiegati, in cui è la comunità a scegliere come la tecnica la possa e la debba raccontare, e di come possa diventarne carattere identitario inscindibile dal suo contesto.

Un nuovo patto tecnologico per i territori

I territori che si spopolano e che cambiano per il clima alterato reclamano strade nuove verso l’adattamento e il tema dell’intelligenza artificiale è al centro di questo discorso perché abbiamo l’opportunità di narrare, progettare e guardare a futuri desiderabili con sempre maggiore capacità di far leva sulla conoscenza in modi prima inimmaginabili. Questo implica costruire sistemi tecnologici a loro volta sostenibili da tutti i punti di vista: sociale, ambientale, e culturale, ma affinché ciò accada serve un’azione intenzionale di riappropriazione dei modi con cui pensiamo e creiamo significati attraverso la tecnologia, interrompendo quel processo di estrazione della conoscenza da e sui luoghi operato dalle piattaforme, che la rimette poi in circolo in modalità e in forme che non riconosciamo più.

I territori sono spazi fisici e sinestetici in cui l’esperienza del mondo è fatta di corpi che interagiscono ognuno mediante un sistema percettivo caratteristico della propria specie¹³, in cui convivono tanti tipi di intelligenze che ne processano l’esistenza. Le macchine a cui stiamo attribuendo capacità – secondo alcuni – sovrapponibili alla nostra intelligenza, non hanno questo spazio percettivo e relazionale, non possono comprendere la realtà complessa dei territori (né tantomeno computarne un modello astratto), quindi difficilmente possono raccontarli in modo affidabile o tantomeno, contribuire al loro sviluppo (per cui serve intenzionalità, capacità di visione, creatività, stare in un posto, crescerci, viverci). I sistemi IA attuali riproducono una nuova forma di dualismo cartesiano, per cui si separa la mente dal corpo, o per meglio dire il software dall’hardware¹⁴. Nella loro pragmatica capacità di generare testi o immagini risultano certamente utili per alcune applicazioni – con le dovute precauzioni – ma in attesa di tecnologie migliori, serve implementare strategie non banali di scelta dei modelli, di miglioramento degli algoritmi e potenziamento dei contesti informativi a loro disposizione, proprio per sopperire all’incapacità di processare tutto ciò che non è compreso nella scatola (spesso “nera” e imperscrutabile). Dobbiamo guardare alle tecnologie digitali sempre più in ottica sistemica, integrata, coerente con lo spazio che contribuisce a sviluppare, perché cultura significa relazioni, spazialità, fisicità, un unicum irriducibile di tangibile ed intangibile.

Serve riattivare la capacità delle comunità di produrre conoscenza propria, a partire da esperienze incarnate – situate nel luogo – perché la diversità caratteristica dei territori, ad ogni centimetro, è la base per ricercare soluzioni locali alle sfide più complesse. La diversità culturale è una risorsa economica, tangibile, lì a disposizione, è il giacimento da cui attingere per costruire adattamento. Più strade, più ipotesi, più futuri sapremo immaginare, più potremo testare e scegliere i modelli di sviluppo che preferiamo, ma servono strumenti che non appiattiscono la complessità e che ci permettono di mettere a sistema più informazioni e più modi di percepire, osservare e comprendere il mondo. A sostegno di questa posizione che potrebbe sembrare meramente filosofica ai più, cito giusto un caso emblematico del 2022: alcuni uffici dell’amministrazione federale statunitense hanno promulgato un memorandum che invita le agenzie territoriali per il clima a coinvolgere le comunità indigene nella ricerca di soluzioni, attingendo a conoscenze antiche e ad una capacità di percepire il territorio unica e ancestrale¹⁵. Anche se purtroppo la storia ci consegna una versione diversa di quel Paese, quel documento rimane un bel tentativo di umiltà epistemologica, di apertura, di slancio verso politiche decoloniali e più autenticamente inclusive.

E quindi il mondo della cultura cosa può fare?

Nell’era degli algoritmi la produzione culturale deve farsi capace di costruire identità collettive permeando e invadendo lo spazio della tecnica, occupandosi attivamente del cambiamento modellando metafore, narrazioni, costruendo punti di osservazione alternativi, generando dati autentici e intenzionali, disegnando algoritmi giusti e trasparenti. Le culture in sé sono cose vive, mai ferme, rizomatiche, che si nutrono di imprevisti e di deviazioni, di interconnessioni anche casuali, di non-linearità. E questa complessità può diventare un terreno fertile di produzione e determinazione, per cui ci servono apparati sociotecnici – anche – digitali ripensati come una tecnologia del liminale, dell’imprevisto, della diversità, “del controtempo”, in grado di moltiplicare valore dalla collisione fra intelligenze, saperi e modi di costruirli prima inconciliabili.

La qualità della produzione culturale è quindi funzione della diversità che abilita, unitamente alla capacità di proiettarla dentro scenari futuri desiderabili non predittivi, non ovvi, non figli di una inferenza puramente statistica. Dobbiamo usare il digitale per espandere la nostra capacità di dare senso al mondo, di cercare e creare nuovi significati che nascono da un patto tra istituzioni e cittadini, tra quelli del presente e del passato, tra quelli umani e quelli non-umani, verso una intelligenza delle comunità integrata, giusta ed ecologica. Un approccio capace di produrre qualità e autenticità diffusa, in cui il localismo digitale non è nostalgia e logica di isolamento, ma ridefinizione di un globale di cui non vuole essere un prodotto.

Il territorio latente è solo una metafora che nemmeno esiste se rifiutiamo di restarvi intrappolati e se scegliamo di vivere le tecnologie come ingredienti di futuri non ancora scritti.

Riferimenti