Andrea Cattabriga

Uscire dal territorio latente: da vittime dell'algoritmo a creatori di futuri

Andrea Cattabriga — Sun, 12 Oct 2025 00:00:00 +0000

A valle del mio intervento a Bussola dello scorso 10 Luglio 2025, evento di riferimento dell’ecosistema culturale nazionale organizzato da Hangar Piemonte, ho riorganizzato i pezzi del mio discorso in questo pezzo. E’ lungo, lo so :-)

Uscire dal territorio latente: da vittime dell’algoritmo a creatori di futuri

Chiedete a un sistema basato su IA generativa informazioni sulla vostra città e probabilmente le troverà, ma se chiedete di raccontarvi le sfumature culturali, il tessuto sociale che rende unico il vostro territorio, otterrete una rappresentazione che se siete fortunati potrebbe risultare verosimile, in molti casi vi suonerà un tantino piatta o magari solo banalmente nozionistica, ma molto probabilmente incapace di restituire quella complessità che solo chi vive un luogo può riconoscere. E farebbe una certa differenza se chiedete di una grande capitale o invece di una frazione di un piccolo comune, magari sperduto in un’area interna senza storie universali raccontate dal cinema, senza scorci instagrammati o prodotti DOC esportati ovunque. Non è questione di informazioni mancanti, ma di contesti perduti, di significati che si dissolvono quando la cultura viene processata da algoritmi che non ne comprendono la grammatica profonda.

Per amministratori ed operatori culturali, questa non è riducibile ad una questione tecnica di recupero dati o di ingegneria del contesto documentale dell’algoritmo, si tratta della differenza tra una tecnologia che riesce a descrivere cosa c’è in un dato luogo e una che comprende perché è importante per la comunità.

Possiamo rappresentare il modo con cui i sistemi di IA generativa percepiscono le nostre identità culturali usando la miopia come metafora tecnologica: vedono bene solo ciò che è “vicino” ovvero ricorrente, meglio correlato, ciò che già esiste ben rappresentato nei dati di allenamento, mentre il resto rappresentato da meno dati, più “sparso”, è rumore, perdita, sfocatura. Prendendo in prestito il concetto di spazio latente dal vocabolario dell’apprendimento automatico¹ e accostandolo alla geografia, questo spazio di compressione e distorsione è quello che chiamo territorio latente: un luogo dove i significati si sciolgono e diluiscono, dove le nostre interazioni coi sistemi digitali generano risultati sub-ottimali, fatti di generalizzazione e vaghezza, in cui rischia di venire compromessa quella ricchezza relazionale fra patrimonio, paesaggio, persone e storie che caratterizza i luoghi.

Nel 2023, come Advanced Design Unit dell’Università di Bologna e con Paolo Cardini, professore alla Rhode Island School of Design (USA), ho organizzato il workshop “Cultural Bias Scavenger Hunt”² con l’obiettivo di scoprire come i modelli generativi perpetuano stereotipi culturali. I partecipanti hanno chiesto all’allora recentemente lanciato ChatGPT (testo) e a Midjourney (immagini), di descrivere rituali, cibi o giochi legati a specifiche tradizioni. Il risultato? Generalizzazioni, semplificazioni, allucinazioni, errori simbolici piuttosto gravi come proporre hamburger per una festa religiosa, o immagini distorte di bambini asiatici in contesti occidentalizzati. Un esempio emerso nel workshop fu un set di scacchi ispirato al famoso Esercito di Terracotta³, pensato per bambini cinesi: i modelli producevano immagini di scacchi internazionali (non cinesi), o nel caratterizzare il target del gioco proposevano acconciature stereotipate di un preciso periodo storico (non contemporaneo), inducendo riferimenti politici e culturali potenzialmente fuorvianti. Anche quando si cercava di correggere il prompt, i risultati tornavano a convergere verso una visione estetica dominante, anglosassone, problematica se non a volte profondamente errata dal punto di vista culturale. Come una foto generata da IA in cui nativi americani sorridono felici per un selfie: una collisione tra estetiche e comportamenti che non possono convivere, un artefatto del territorio latente⁴. Da allora questi applicativi sono migliorati, ma rimane impossibile curarne i difetti più profondi in modo definitivo (anche perché sono in realtà le loro caratteristiche intrinseche), senza nuovi paradigmi, senza nuove architetture tecnologiche e senza abbandonare la retorica ambigua e mistificatoria dei venditori.

io, vestito di nero, nella Cappella di Sant’Uberto alla presso la Reggia della Venaria Reale

La ricerca conferma quello che abbiamo osservato con un semplice esperimento, ovvero che i sistemi basati su modelli di IA generativa rischiano di diffondere stereotipi, diminuire la ricchezza linguistica privilegiando sistematicamente le culture dominanti⁵. Espressioni, tradizioni e modi di dire specifici dei territori vengono progressivamente appiattiti verso una “media” globale che non rappresenta nessuno in particolare. Più utilizziamo questi strumenti per produrre contenuti, più la nostra stessa creatività si conforma ai loro schemi, creando un circolo vizioso di omogeneizzazione culturale ⁶. Se ci siamo tanto spesi nel difendere l’autenticità di quello che mangiamo e che quindi immettiamo nel corpo (vedasi presidi, etichettature, anti-contraffazione, ecc.), perché non dovremmo lottare per salvaguardare quello che nutre le nostre menti?

Dobbiamo sforzarci di guardare alle tecnologie digitali come dispositivi culturali generati in un contesto specifico, e quindi mai universali in quanto sempre situate storicamente e simbolicamente, che dovrebbero essere pensate e implementate con l’obiettivo di preservare ed evolvere l’unità tra dimensione pratica e morale della tecnica. Come argomentato da Yuk Hui⁷, è necessario affrontare la questione cosmotecnica, ovvero cercare di tenere insieme senso e significati delle tecnologie nelle comunità per evitare che il disorientamento e la sensazione di sradicamento osservati già altrove, ci consegni ad un rifugio acritico nel localismo, al culto di tradizioni rese feticci da turismo mordi-e-fuggi, ma soprattutto all’incapacità di immaginare futuri da costruire, non appiattiti e omogenizzati come quei report generati dal collega che ha scoperto miracolose “app di intelligenza artificiale” gratuite ieri mattina.

Che ogni cultura possa costruire un proprio rapporto con le tecnologie – per intenderci, quelle che manipolano conoscenza –, rimarrà nel breve una provocazione intellettuale per pochi, ma nel comprendere che nelle applicazioni digitali vendute come universali, progettate e implementate altrove, la semantica generata è già adattata a una logica esterna, potremmo trovare le motivazioni per investire in questi ragionamenti complessi.

Il mondo della cultura può essere motore trainante di questo discorso, come peraltro ha iniziato già ad accadere con modalità di intervento per cui la ricerca artistica sull’interazione con la tecnologia assume sempre più il ruolo di campo sperimentale per prototipare dispositivi socio-tecnici riutilizzabili, oltre l’atto critico e performativo. Penso ad esempio al modo in cui l’esperimento del Data Trust sviluppato insieme all’installazione The Call di Holly Herndon e Mat Dryhurst per Serpentine⁸, ha mostrato come sia possibile: il dataset vocale non è solo risorsa ma comunanza. I coristi partecipano a protocolli di registrazione, composizione e governance che concedono loro diritti reali (non simbolici) sul dataset e sull’uso dei modelli AI derivati. Questo rende evidenti le linee di conflitto latenti in molti sistemi “universali”: chi controlla il dato controlla il significato.

Verso una “intelligenza di comunità”

Non ci sono risposte facili, ma il mio suggerimento è quello di abbracciare un approccio allo sviluppo tecnologico che cerchi di tenere insieme tutti i modi possibili e conosciuti di processare conoscenza collettivamente, sui territori, passando dalle persone, alla tecnologia ed alle altre forme di vita, tendendo a quello che chiamo intelligenza di comunità⁹. Da una visione ambiziosa che non si deve porre limiti tecnici (dalle IA di oggi all’inferenza attiva del mondo, dalla comunicazione inter-specie alla computazione biologica per fare qualche esempio), possiamo scendere ad un livello pragmatico e sin da oggi, potremmo progettare sistemi che non appiattiscono, ma che amplificano la diversità, coinvolgendo tutti, usando le IA per attivare relazioni, per guardare alla complessità dei nostri problemi con metodi meno lineari. In termini generali il discorso è articolato e contiene uno spettro di attività e processi che vanno dalla governance partecipata dei dati e degli algoritmi (usati per supportare decisioni, immaginare, analizzare, narrare il territorio, eccetera), alla progettazione e selezione di tecnologie sostenibili, fino alle dinamiche di collaborazione, scambio e condivisione della conoscenza sia dentro che e fuori la comunità.

Pratiche culturali sperimentali accompagnate da un atteggiamento curioso, ma critico sulle tecnologie costituiscono l’humus ideale su cui far crescere sia i piccoli progetti che le grandi trasformazioni socio-tecniche. Dalla concretezza di piccole soluzioni tecniche all’impatto politico di pluridecennali movimenti culturali, diverse esperienze ci dimostrano come sia possibile creare i componenti di una filiera tecnologica che rispetti queste indicazioni. Penso all’Afrofuturismo¹⁰, movimento culturale ed estetico che dalla diaspora africana, e in particolare da esponenti della comunità afroamericana, ha saputo creare narrazioni speculative che intrecciano eredità ancestrali, innovazione tecnologica e visioni di futuro alternativo. Scendendo invece sul piano tecnico, il gruppo Masakhane in Africa¹¹ ad esempio, lavora per integrare lingue locali che dispongono di poco materiale scritto e sotto-rappresentate nelle tecnologie digitali nei modelli di processamento del linguaggio. Altre esperienze, come il progetto Indigenous AI¹², che mira a definire logiche di implementazione algoritmiche per le comunità indigene, mostrano come la tecnologia possa diventare uno strumento di rielaborazione del paesaggio culturale che non più manipolativo, neo-colonialista, diviene identitario e profondamente collaborativo. La tecnologia può diventare così un terreno di rafforzamento e crescita comunitaria. Questi sono alcuni esempi di “cosmotecnica applicata”, in cui i sistemi tecnologici ed i loro requisiti epistemologici vengono plasmati dentro alle culture in cui vengono poi impiegati, in cui è la comunità a scegliere come la tecnica la possa e la debba raccontare, e di come possa diventarne carattere identitario inscindibile dal suo contesto.

Un nuovo patto tecnologico per i territori

I territori che si spopolano e che cambiano per il clima alterato reclamano strade nuove verso l’adattamento e il tema dell’intelligenza artificiale è al centro di questo discorso perché abbiamo l’opportunità di narrare, progettare e guardare a futuri desiderabili con sempre maggiore capacità di far leva sulla conoscenza in modi prima inimmaginabili. Questo implica costruire sistemi tecnologici a loro volta sostenibili da tutti i punti di vista: sociale, ambientale, e culturale, ma affinché ciò accada serve un’azione intenzionale di riappropriazione dei modi con cui pensiamo e creiamo significati attraverso la tecnologia, interrompendo quel processo di estrazione della conoscenza da e sui luoghi operato dalle piattaforme, che la rimette poi in circolo in modalità e in forme che non riconosciamo più.

I territori sono spazi fisici e sinestetici in cui l’esperienza del mondo è fatta di corpi che interagiscono ognuno mediante un sistema percettivo caratteristico della propria specie¹³, in cui convivono tanti tipi di intelligenze che ne processano l’esistenza. Le macchine a cui stiamo attribuendo capacità – secondo alcuni – sovrapponibili alla nostra intelligenza, non hanno questo spazio percettivo e relazionale, non possono comprendere la realtà complessa dei territori (né tantomeno computarne un modello astratto), quindi difficilmente possono raccontarli in modo affidabile o tantomeno, contribuire al loro sviluppo (per cui serve intenzionalità, capacità di visione, creatività, stare in un posto, crescerci, viverci). I sistemi IA attuali riproducono una nuova forma di dualismo cartesiano, per cui si separa la mente dal corpo, o per meglio dire il software dall’hardware¹⁴. Nella loro pragmatica capacità di generare testi o immagini risultano certamente utili per alcune applicazioni – con le dovute precauzioni – ma in attesa di tecnologie migliori, serve implementare strategie non banali di scelta dei modelli, di miglioramento degli algoritmi e potenziamento dei contesti informativi a loro disposizione, proprio per sopperire all’incapacità di processare tutto ciò che non è compreso nella scatola (spesso “nera” e imperscrutabile). Dobbiamo guardare alle tecnologie digitali sempre più in ottica sistemica, integrata, coerente con lo spazio che contribuisce a sviluppare, perché cultura significa relazioni, spazialità, fisicità, un unicum irriducibile di tangibile ed intangibile.

Serve riattivare la capacità delle comunità di produrre conoscenza propria, a partire da esperienze incarnate – situate nel luogo – perché la diversità caratteristica dei territori, ad ogni centimetro, è la base per ricercare soluzioni locali alle sfide più complesse. La diversità culturale è una risorsa economica, tangibile, lì a disposizione, è il giacimento da cui attingere per costruire adattamento. Più strade, più ipotesi, più futuri sapremo immaginare, più potremo testare e scegliere i modelli di sviluppo che preferiamo, ma servono strumenti che non appiattiscono la complessità e che ci permettono di mettere a sistema più informazioni e più modi di percepire, osservare e comprendere il mondo. A sostegno di questa posizione che potrebbe sembrare meramente filosofica ai più, cito giusto un caso emblematico del 2022: alcuni uffici dell’amministrazione federale statunitense hanno promulgato un memorandum che invita le agenzie territoriali per il clima a coinvolgere le comunità indigene nella ricerca di soluzioni, attingendo a conoscenze antiche e ad una capacità di percepire il territorio unica e ancestrale¹⁵. Anche se purtroppo la storia ci consegna una versione diversa di quel Paese, quel documento rimane un bel tentativo di umiltà epistemologica, di apertura, di slancio verso politiche decoloniali e più autenticamente inclusive.

E quindi il mondo della cultura cosa può fare?

Nell’era degli algoritmi la produzione culturale deve farsi capace di costruire identità collettive permeando e invadendo lo spazio della tecnica, occupandosi attivamente del cambiamento modellando metafore, narrazioni, costruendo punti di osservazione alternativi, generando dati autentici e intenzionali, disegnando algoritmi giusti e trasparenti. Le culture in sé sono cose vive, mai ferme, rizomatiche, che si nutrono di imprevisti e di deviazioni, di interconnessioni anche casuali, di non-linearità. E questa complessità può diventare un terreno fertile di produzione e determinazione, per cui ci servono apparati sociotecnici – anche – digitali ripensati come una tecnologia del liminale, dell’imprevisto, della diversità, “del controtempo”, in grado di moltiplicare valore dalla collisione fra intelligenze, saperi e modi di costruirli prima inconciliabili.

La qualità della produzione culturale è quindi funzione della diversità che abilita, unitamente alla capacità di proiettarla dentro scenari futuri desiderabili non predittivi, non ovvi, non figli di una inferenza puramente statistica. Dobbiamo usare il digitale per espandere la nostra capacità di dare senso al mondo, di cercare e creare nuovi significati che nascono da un patto tra istituzioni e cittadini, tra quelli del presente e del passato, tra quelli umani e quelli non-umani, verso una intelligenza delle comunità integrata, giusta ed ecologica. Un approccio capace di produrre qualità e autenticità diffusa, in cui il localismo digitale non è nostalgia e logica di isolamento, ma ridefinizione di un globale di cui non vuole essere un prodotto.

Il territorio latente è solo una metafora che nemmeno esiste se rifiutiamo di restarvi intrappolati e se scegliamo di vivere le tecnologie come ingredienti di futuri non ancora scritti.

Riferimenti

Ambriola, V. (2025, Aprile 30). Lo spazio latente: Il cuore matematico dell’IA generativa. Agenda Digitale. https://www.agendadigitale.eu/cultura-digitale/lo-spazio-latente-il-cuore-matematico-dellia-generativa/ ↩︎
Cattabriga, A. e Cardini, P. (2023, marzo 3). Cultural Biases Scavenger Hunt. Cultural Biases Scavenger Hunt Workshop. https://sites.google.com/view/culturalbiasesscavenger-ws1 ↩︎
vedasi nel sito del workshop il lavoro di Enrico Foti con brief di Zixuan Zhang, e il riferimento a Esercito di terracotta. (2025), in Wikipedia. https://it.wikipedia.org/w/index.php?title=Esercito_di_terracotta&oldid=146598628 ↩︎
Gurfinkel, J. (2023, March 28). AI and the American Smile. Medium. https://medium.com/@socialcreature/ai-and-the-american-smile-76d23a0fbfaf ↩︎
Cao, Y. T., Sotnikova, A., Zhao, J., Zou, L. X., Rudinger, R., & Daume, H. (2023). Multilingual large language models leak human stereotypes across language boundaries. https://doi.org/10.48550/ARXIV.2312.07141 ↩︎
Sourati, Z., Ziabari, A. S., & Dehghani, M. (2025). The Homogenizing Effect of Large Language Models on Human Expression and Thought. https://doi.org/10.48550/ARXIV.2508.01491 ↩︎
Hui, Y. (2016). The Question Concerning Technology in China: An Essay in Cosmotechnics. Urbanomic. Traduzione italiana Hui, Y. (2021). Cosmotecnica: La questione della tecnologia in Cina (S. Baranzoni, Trad.). Nero. ↩︎
Holly Herndon & Mat Dryhurst: The Call. (s.d.). Serpentine Galleries. Recuperato 6 ottobre 2025, da https://www.serpentinegalleries.org/whats-on/holly-herndon-mat-dryhurst-the-call/ ↩︎
tag: Intelligenza di Comunità. (2025). Relaia Blog. https://relaia.org/it/blog/tag/intelligenza-di-comunita ↩︎
Afrofuturismo. (2025). In Wikipedia. https://it.wikipedia.org/w/index.php?title=Afrofuturismo&oldid=145227361 ↩︎
Masakhane https://www.masakhane.io/home e Nekoto, W et al. (2020), Participatory research for low-resourced machine translation: A case study in African languages. Findings of the Association for Computational Linguistics: EMNLP 2020, 2144-2160. ↩︎
Lewis, J. E., Arista, N., Pechawis, A., & Kite, S. (2020). Indigenous protocol and artificial intelligence position paper. The Initiative for Indigenous Futures and the Canadian Institute for Advanced Research. ↩︎
von Uexküll, J. (1934). Streifzüge durch die Umwelten von Tieren und Menschen. Springer. ↩︎
Bennett, M. T. (2026). What Is Artificial General Intelligence? In M. Iklé, A. Kolonin, & M. Bennett (A c. Di), Artificial General Intelligence (pp. 30–42). Springer Nature Switzerland. https://doi.org/10.1007/978-3-032-00686-8_4 ↩︎
White House. (2022). Memorandum on Indigenous Traditional Ecological Knowledge and Federal Decision Making. Office of Science and Technology Policy & Council on Environmental Quality ↩︎

Epistemically Redesigning Human-Tech Cooperation: A Path to Enhanced Autonomy

Andrea Cattabriga — Sun, 12 Jan 2025 00:00:00 +0000

A few months ago I needed to jot down some thoughts and thought that maybe an alternative prose would help me. I tried to give an incipit to the reasoning by imagining a scene from a short story or a film. The result was a piece of writing, which I drafted quite hastily, for future editing. In the end, instead of putting it back together, because it is a blog (…), I decided to put it here without thinking too much about it.

Prologue: A City on the Brink

The control room. Dim. Monitors casting a spectral glow. Tom and Sarah. The last guardians of a dying city.

“You’ve gone mad. We can’t do this.”

“We have no choice.”

“An AI. Running the city. Christ.”

Sarah’s fingers hover over the screen before her, a cryptic altar of lines of code—a digital incantation.

from future import welcome_future

def launch_city(city, topic):
    purge_obsolete_AIsystems()
    import_relaia()

    while True:
        insights = make_sense_of_(topic)
        city.update(insights)
        city.design()
        .envision()
        .decide()
        .include()

“Look at it, Tom. The old ways are dead. Our air is poison. Our streets are crumbling. Our people are lost.”

“And this machine? This thing? It’ll save us?”

“It understands. It sees everything—every perspective, every voice.”

His hair gray as ash, his eyes wild with fear and doubt.

“And what of us? Our thoughts? Our choices? This code will think for us, choose for us.”

“No.”

A smile—sad yet knowing.

“Look closer. That last line: ‘include.’ It doesn’t shut us out; it brings us in. It enhances us.”

“And if we’re wrong?”

“Then we’re wrong together—us and the machine.”

Outside, the city lies in ruins—a wasteland of broken dreams and toxic air, waiting for salvation or damnation, for a future birthed by silicon and soul.

As they stand there, the weight of their decision pressing down, a profound question hangs in the air: In a world where human systems are failing, can AI be the key to protecting and enhancing human autonomy rather than diminishing it?

Their debate echoes a larger question facing humanity in the age of artificial intelligence: How should AI be developed and governed to protect and enhance human autonomy, safeguarding both freedom of thought and freedom of action?

Beyond Technological Solutionism: Reframing the Human-AI Relationship

The discourse surrounding artificial intelligence often falls into the trap of technological solutionism—the belief that complex societal issues can be solved through technological interventions alone. This perspective is not only reductive but also neglects the fundamental epistemological challenges that arise when integrating AI into our knowledge-creation processes.

Technological solutionism assumes that technology can provide straightforward answers to intricate social problems without considering underlying issues such as inequality, cultural differences, or ethical dilemmas. For instance, deploying AI to monitor traffic congestion may alleviate some issues but does not address broader systemic problems like urban planning failures or socioeconomic disparities that contribute to traffic woes. To truly enhance human autonomy in the age of AI, we must radically redesign the epistemic foundations of human-technology cooperation. This means going beyond simply using AI as a tool; we must reconceptualize how we construct, validate, and interact with knowledge itself.

New frameworks, such as Systemic Relational Insight (Cattabriga, 2023), designed to integrate various ways of knowing—encompassing perceptual, data-driven, and scientific perspectives—while ensuring that human interactions remain meaningful, have the potential to pave the way for the necessary epistemological redesign we seek. For example, consider climate change—a multifaceted issue requiring input from scientists, policymakers, indigenous communities, and activists worldwide. Traditional methods often silo knowledge within disciplines or geographic boundaries. However, employing AI to synthesize diverse inputs can generate comprehensive models that reflect various cultural understandings and solutions.

Reimagining Epistemic Frameworks

The key innovation of this approach lies not in its technological implementation but in its fundamental reconceptualization of knowledge structures. By representing knowledge as an interconnected graphs rather than isolated data points, it challenges the reductionist tendencies of traditional Western epistemologies.

This relational framing allows for integrating diverse epistemological traditions—including indigenous knowledge systems that emphasize interconnectedness and holistic understanding (Escobar, 2018). For instance, indigenous practices often involve deep ecological knowledge passed down through generations—knowledge that can inform sustainable practices in agriculture or resource management.

By incorporating these perspectives into AI-driven models for environmental management or disaster response, we can develop solutions that respect local contexts while addressing global challenges.

Furthermore, this interconnected approach opens up new possibilities for cross-cultural dialogue and collaborative problem-solving that transcend disciplinary boundaries. For example, global health crises like pandemics require insights from virologists, sociologists, economists, and community leaders alike. An epistemic framework that values diverse inputs can lead to more effective public health strategies that consider both scientific data and cultural practices.

Epistemological Implications of AI Integration

The integration of artificial intelligence (AI) into contemporary knowledge frameworks prompts us to confront significant epistemological questions. One of the most pressing inquiries is how the nature of knowledge evolves when it is co-produced by both human and artificial intelligences. This collaboration raises new forms of epistemic authority, compelling us to consider how we can ensure that these developments enhance rather than diminish human autonomy.

Redefining Knowledge Authority

Historicaly, the authority over knowledge has been concentrated in established institutions such as universities, governments, and scientific organizations. These entities have traditionally dictated what constitutes valid knowledge, often relying on human expertise as the primary source of authority. However, the advent of AI has disrupted this paradigm. With its capacity to process vast amounts of data from diverse sources—including social media and community forums—AI introduces new forms of authority based on algorithmic interpretations rather than solely on human expertise. For example, during public health emergencies like the COVID-19 pandemic, social media platforms utilized algorithms to disseminate information rapidly. While this facilitated quick communication, it also led to the inadvertent spread of misinformation. This scenario raises critical questions about who holds authority over knowledge generated by AI systems. Is it the creators of these algorithms who shape the information flow, or is it the communities whose voices are represented within these digital narratives?

Developing New Epistemic Virtues

To navigate these complex questions effectively, we must move beyond simplistic views that categorize AI as either a threat to or a savior of human cognition. Instead, we should cultivate new epistemic virtues and practices that are well-suited to this hybrid landscape of knowledge. A few concepts comes to my mind:

Epistemic humility is one such virtue that encourages us to recognize the limitations inherent in both human and artificial intelligence. It fosters an openness to diverse ways of knowing. For instance, while AI excels at analyzing data patterns, it may lack the contextual understanding embedded in human experiences. Without being rooted in the real sense-dense cultural environment—so in their rituals and ways of knowing—we risk to leave room to interpretations and analysis that are not aligned with the way communities think and elaborate on their realities.

Another important virtue is relational thinking, which emphasizes understanding complex systems through their relationships and interactions rather than viewing them as isolated facts or linear causalities. In environmental science research on deforestation, for example, it is crucial not just to consider numerical data but also to incorporate local communities’ narratives about land use and ecological stewardship.

Metacognitive awareness enhances our ability to reflect critically on our thought processes, including how they are influenced by AI systems. Regularly assessing how algorithm-driven recommendations shape our decision-making—whether when consuming news or making purchases—can help us become more discerning consumers of information.

Furthermore, fostering collaborative sensemaking skills allows for collective knowledge creation that leverages both human insight and artificial intelligence. This can be achieved through participatory design methods where community members work alongside technologists to develop localized solutions using AI tools.

Governance for Epistemic Empowerment

As we contemplate these epistemological considerations, it becomes clear that the governance of AI systems must be reimagined. Rather than merely focusing on controlling AI’s outputs, we should strive to create governance structures that enhance human epistemic capabilities and autonomy.

Key Principles for Effective Governance

One essential principle is epistemic transparency. This concept ensures that AI systems are designed in ways that make their knowledge structures and reasoning processes accessible to human understanding. For instance, user-friendly interfaces can help individuals grasp how algorithms arrive at conclusions—such as those used in credit scoring or job applicant filtering. By making these processes transparent, we empower users to engage more critically with the technology that influences their lives.

Cognitive diversity is another critical aspect since it involves actively including diverse cultural and disciplinary perspectives in designing and governing AI knowledge systems, and establishing advisory boards with representatives from various sectors—including academia and marginalized communities—can guide ethical considerations in technology development.

Moreover, we must consider contextual intelligence. This principle emphasizes that AI-generated insights should always be presented within their appropriate cultural and epistemological contexts. For example, when developing healthcare solutions using predictive analytics, it is vital to recognize that health outcomes can vary significantly across different populations due to socioeconomic factors. Contextual intelligence helps avoid one-size-fits-all solutions that may overlook critical local nuances.

Empowering individuals and communities through epistemic agency is another cornerstone of effective governance. This principle allows users to shape the knowledge structures and learning processes of AI systems. By creating platforms where users can provide feedback on algorithm performance, we give them greater control over how their data is utilized within those systems. This empowerment fosters a sense of ownership and responsibility among users, encouraging more meaningful engagement with technology.

Encouraging pluralistic integration promotes the development of multiple interoperable AI approaches to avoid epistemic monopolization. Open-source initiatives enable different communities to adapt existing algorithms according to their specific needs rather than relying solely on proprietary solutions from tech giants. This flexibility not only enhances innovation but also democratizes access to technology.

Finally, adopting anticipatory ethics involves proactively considering the long-term epistemological impacts arising from human-AI knowledge co-production (Brey, 2012). Engaging ethicists early in technology development—not merely as an afterthought—can help assess potential biases embedded within algorithms before deployment.

Conclusion: Towards a New Epistemic Paradigm

By focusing on redesigning human-technology cooperation’s epistemological foundations—we can move beyond the false dichotomy between human versus machine intelligence towards a new paradigm for knowledge creation capable of enhancing human autonomy while expanding our collective capacity for understanding action.

This approach offers pathways toward addressing complex global challenges requiring integration across diverse perspectives and ways of knowing—from climate change mitigation strategies involving local farmers’ insights about seasonal shifts—to public health policies informed by community narratives regarding vaccine hesitancy.

Ultimately—the future lies not merely in resisting technology nor uncritically embracing it—but rather consciously shaping its epistemic foundations so as to create systems amplifying our collective intelligence while preserving individual freedoms over thought action alike.

Some references

(not strictly cited)

Brey, Philip A. E. 2012. «Anticipatory Ethics for Emerging Technologies». NanoEthics 6 (1): 1–13. https://doi.org/10.1007/s11569-012-0141-7.
Cattabriga A., (2023). Systemic Relational Insights: A new hybrid intelligence approach to make sense of complex problems. In Proceedings of the Relating System Thinking and Design 2022 Symposium.
Cattabriga A. (2024).
Escobar A., (2018). Designs for the pluriverse: Radical interdependence autonomy making worlds Duke University Press.

Un sistema IA può aiutarci a mediare tra posizioni diverse?

Andrea Cattabriga — Thu, 31 Oct 2024 00:00:00 +0000

È appena uscito uno studio interessante dei ricercatori di Google DeepMind di Londra che hanno cercato di capire se l’intelligenza artificiale possa essere in grado di aiutare gruppi di persone nel contesto di confronti democratici, a raggiungere consenso comune intorno a temi divisivi, generando sintesi più chiare ed “eque” di quelle scritte da mediatori umani. Un algoritmo per la facilitazione dei negoziati verbali, diciamo. Habermas Machine – così hanno chiamato il modello linguistico – ha avuto successo nel produrre concetti più efficaci se confrontato con esperti umani. La prospettiva e la facile ricaduta sarebbe: ok, allora facciamo fare a questo algoritmo la mediazione di qualsiasi confronto, dibattito, processo di ingaggio e sintesi, perchè è più performante. Mi sono chiesto cosa significhi performance qui: è solo questione di quanto sono scritte meglio certe frasi (che permettono un più ampio consenso intorno a un tema dibattuto)? Sicuramente si, lo studio misura questo ed è chiara questa limitazione.

Bello, ma c’è un grande però.

Il rischio è quello di sempre: confondere la capacità di allineare il linguaggio con quella di far emergere una vera comprensione condivisa, come se bastasse trovare le parole giuste per risolvere le divergenze. La realtà è più complessa: il sensemaking collettivo - quel processo attraverso cui le comunità costruiscono significati condivisi - non è solo questione di sintesi linguistica. È un processo sociale, culturale, relazionale. E fino a che non ci trasformeremo tutti in pezzi di software (ma perchè poi?!), e fino a che avremo dei corpi fisici (che sono parte della nostra intelligenza), avremo bisogno di modalità più complesse per dare senso alle cose, per capire la realtà e quindi mettere basi solide alle nostre decisioni.

Perché?

Il contesto conta Non si può separare la comprensione dalle relazioni, dall’ambiente, dalle esperienze vissute. Un’AI può riassumere punti di vista, ma non può replicare quel tessuto di fiducia che si costruisce quando le persone lavorano insieme attraverso le differenze.
Il processo è importante quanto il risultato Il valore non sta solo nel punto di arrivo - il consenso - ma nel percorso: condividere storie, costruire gradualmente modelli mentali comuni (e anche non!), tessere ponti tra prospettive diverse. Sono questi i passaggi che creano comprensione duratura, e che ci permettono pure di aprire spazi di divergenza, immaginazione e alternativi: mentre proviamo a spiegarci, accendiamo negli altri connessioni nuove tra idee e concetti, attivando nell’interazione continua un crescendo creativo.
La conoscenza ha molte forme Le comunità danno senso alla realtà attraverso canali diversi: racconti, dati, esperienze vissute, immagini e anche evidenze scientifiche. Un approccio che non sterilizzi questa ricchezza deve saper integrare le diverse forme di conoscenza, non solo trovare un linguaggio comune.
Serve un pensiero sistemico e adattivo La maggior parte delle questioni complesse coinvolge fattori interconnessi che non possono essere ridotti a semplici dichiarazioni di consenso. Servono approcci che aiutino i gruppi a capire queste relazioni sistemiche e come le diverse prospettive si inseriscono nel quadro più ampio. Navigare queste relazioni non è solo ricerca delle cause, del determinismo, ma anche semplicemente esercizio di esplorazione della complessità e adattabilità continua dei nostri mondi. Da questi sforzi riescono ad emergere le proprietà emergenti dei sistemi, quelle che non possiamo osservare scomponendo e mettendo in provetta pezzi della realtà, ma soltanto osservando tutti i pezzi lavorare insieme.

Questo significa che l’AI può avere un ruolo importante, ma invece di vederla come sostituto della facilitazione umana, dovremmo considerarla uno strumento in una cassetta degli attrezzi più ampia per l’intelligenza collettiva. I contesti in cui è necessario mediare e negoziare sono diversi, è anche un tema di performance dell’interazione da costruire con sempre più attenzione rispetto alle dimensioni di:

senso: perchè scegliamo un algoritmo (qual’è il significato dell’operazione che compie) o perchè dobbiamo far fare alle persone un certo passaggio?
adeguatezza: qual’è il modo più accettabile e comprensibile da tutti per fare funzionare una interazione? Come deve essere fatta un’interfaccia o le informazioni di supporto?
efficacia: a quali metriche e obiettivi obbedisco nel costruire un’interazione fra persone e sistemi?
equità: il modo che abbiamo scelto è rispettoso di tutti i soggetti impattati o crea più distanze di quelle che dovrebbe colmare? E’ giusto per quella specifica comunità o territorio, come impatta sul suo capitale culturale?

L’innovazione vera sta nel combinare in modo consapevole le capacità degli algoritmi con metodi adatti all’ingaggio sensoriale e cognitivo delle specie con cui si vuole interagire: gli umani hanno un’intelligenza fatta di percezione del mondo fisico, cognitiva e anche culturale, quindi non solo astratta, ma concreta, fisica. Non si tratta di scegliere tra umani e macchine, ma di trovare modi per aumentare le competenze di ciascuno, mantenendo gli elementi essenziali del nostro modo di interagire con le informazioni, coi modi attraverso cui la nostra specie riesce a dare senso e a ritrovarcisi (il resto sarebbe soltanto faticoso ed inutilmente costoso, o un esperimento di laboratorio che ci aiuta a capire cose, ma solo in parte).

Come spesso succede con la tecnologia emergente, la vera sfida non è tecnica ma sociale: capire come integrarla nei processi esistenti, capire cosa rimane valido e cosa invece ridisegna il sistema emergente.

Intelligenza Artificiale e Comunità: spunti da un'intervista su Neu Radio

Andrea Cattabriga — Sun, 07 Jul 2024 00:00:00 +0000

Lo scorso 26 giugno a R2B 2024 (la fiera dell’ecosistema ricerca / impresa emiliano-romagnolo), sono stato invitato da Art-ER a parlare del mio lavoro ai microfoni si Neu Radio (che non conoscevo, ed è un progetto fighissimo!), per discutere del mio lavoro con tecnologie emergenti, intelligenza artificiale (IA) e design.

Qui il link all’intervista dal minuto 36.

Per i “TLDR”: ho parlato di come gli algoritmi interagiscono non solo con gli individui, ma anche con le comunità, sottolineando l’importanza dell’intelligenza collettiva, quella che Pierre Lévy descrive come la capacità di mettere in relazione saperi e immaginazioni, mobilitando al meglio le competenze di ciascuno.

Il design funge da mediatore tra competenze, discipline e modi di trasformare la realtà. È fondamentale per adattare le tecnologie ai contesti culturali specifici e per gestire una relazione sana coi sistemi di intelligenza artificiale. La decentralizzazione è un antidoto e un atteggiamento cruciale per includere voci diverse e per provare ad osservare le cose da più prospettive (ne avevo parato più approfonditamente in questo articolo per diid).

Adattare i modelli di IA ai bisogni specifici delle comunità permette di sviluppare prodotti e servizi più rispondenti ad esigenze “costellate” – molteplici, intricate, multiple – tipiche dei sistemi complessi. Tuttavia, l’implementazione globale delle tecnologie dell’IA comporta sfide significative, tra cui l’impatto ambientale e sociale. È essenziale affrontare le implicazioni etiche, politiche e cognitive di questi sistemi distribuiti.

Infine, scegliere le metafore appropriate è un compito fondamentale per comprendere e utilizzare le tecnologie emergenti. Porsi le domande giuste è forse il processo strategicamente più necessario per ogni tipo di decisione che sappiamo avrà ripercussioni non ancora esplicite nel lungo termine e così è pure con l’IA.

Il più grande errore che si può fare valutando l'impatto delle tecnologie emergenti

Andrea Cattabriga — Thu, 29 Feb 2024 00:00:00 +0000

Nei dibattiti sulle tecnologie emergenti, chiacchiere da bar a parte, noto spesso che molte argomentazioni sono fondamentalmente difettose.
Quando ci si domanda come sarà il futuro e si cercano risposte nelle sole proiezioni di trend e schemi conosciuti si sta omettendo una parte fondante dei sistemi complessi: le proprietà emergenti, quelle non osservabili prima che il sistema raggiunga un determinato stato, date dall’interazione fra i suoi componenti.

Quando pensiamo a uno scenario futuro è fondamentale provare a immaginare quali saranno le proprietà emergenti di quel sistema, avendo cura di avere prima individuato anche i nuovi componenti del sistema non presenti attualmente (come ad esempio il fatto che dopo l’introduzione di una variabile, i sistemi cambiano e le componenti di partenza evolveranno).

Come facciamo a dire come sarà il mondo dopo l’IA generativa senza immaginare come ci adatteremo e reagiremo nel percorso? (ad esempio specializzandoci e cambiando preferenze, creando cose nuove, ecc?)

Quando nel 2015, per la prima volta nella storia, il software AlphaGo sconfisse un giocatore professionista tutti pensarono che la macchina aveva ucciso il gioco per sempre. Quello che accadde negli anni successivi fu invece un aumento di invenzioni di nuove mosse ad opera di giocatori umani, cosa che non accadeva da decenni, e come dicono gli autori dello studio: “scopriamo che l’IA può aver migliorato il processo decisionale umano e che questo miglioramento è stato associato a una maggiore novità nel processo decisionale, in quanto i giocatori umani sono stati incoraggiati a prendere decisioni precedentemente non osservate nella storia” (Shin et al. 2023)

Quindi per pensare alla nostra società a valle dell’introduzione di una tecnologia emergente dobbiamo usare gli effetti delle prime reazioni del sistema – socio-tecnico – come nuove caratteristiche dello scenario su cui ragionare. Il ragionamento sugli effetti di primo livello ci deve orientare nelle decisioni riguardanti la sicurezza ed i fattori di rischio imminenti, ma quello sugli effetti combinati è più importante perché mirato agli effetti di medio-lungo periodo (quindi potenzialmente anche alla mappatura di rischi maggiori), e perché ci aiuta a cogliere i segnali deboli (quelli per l’innovazione e la pianificazione).

Questo è quello che mi colpisce fai più, ma quali e quanti altri errori significativi si fanno nel valutare l’impatto delle tecnologie?

Riferimenti

Shin, M., Kim, J., Van Opheusden, B., & Griffiths, T. L. (2023). Superhuman artificial intelligence can improve human decision-making by increasing novelty. Proceedings of the National Academy of Sciences, 120(12), e2214840120. https://doi.org/10.1073/pnas.2214840120

Perchè questo sito è fatto così

Andrea Cattabriga — Thu, 21 Sep 2023 00:00:00 +0000

Il mio sito – ma credo come quello di tutti – è una cosa viva, viva per lo meno quanto lo è l’interesse verso il comunicare e l’equilibrio tra vanità, strategia di posizionamento, cose da dire e tempo a disposizione. Per questo vive di alti e bassi, di cambiamenti repentini, con la promessa ogni volta sempre la stessa, che sia quella buona per una veste stabile e destinata a farlo crescere (parallela all’impegno di aggiornare i contenuti). Nessun re-design fa eccezione o quasi, quindi mi limito a riportare le riflessioni che ho fatto questa volta.

uno stack tecnologico che posso controllare
Non sono uno sviluppatore, sono solo abbastanza nerd da ostinarmi a scrivere brutto codice per il gusto di imparare qualcosa mentre lo faccio. Mi da un certo senso di controllo, mi fa pensare di non dipendere da nessuno (a parte centinaia di generosi dispensatori di tutorial, consigli, e dritte sul web), e di essere libero di pensare con meno vincoli (che è un pò un controsenso viste le mie limitate competenze). Alla fine le scelte che facciamo non sono sempre razionali… Poi potrei andare avanti su pippe di libertà, resilienza, autonomia tecnologica etc etc etc, ma non lo farò.
una cosa leggera che non consuma risorse inutilmente
Il cambiamento in termini di impatto si fa esercitando attenzione sistematica sui margini di miglioramento in ogni ambito dell’esistenza, e la vita digitale non fa eccezione. Quindi mi sono chiesto perchè montare pesantissimi ed energivori CMS (tipo Wordpress), per pubblicare poche pagine in cui mi interessa dare massima attenzione al contenuto, senza orpelli? Cercare di consumare meno risorse parte dal quotidiano, dalle piccole cose che cambiano i nostri comportamenti (spoiler: no, non viene prima il fermare le centrali a carbone perchè se non cambia la nostra mentalità, nessuno penserà sia necessario fermare quelle).
in italiano
In un web di algoritmi e traduttori integrati ed in cui posso benissimo veicolare in inglese su altre piattaforme come Linkedin, la mia scelta è quella di usare la mia lingua nativa, quella in cui penso.
Per lo meno sul mio sito.

Nota su privacy e tracciamento

Come scritto nel footer qui sotto il sito non adotta tecnologie di tracciamento. Tuttavia, i sistemi di monitoraggio (che consiglio di usare come Ghostery o Privacy Badger), potrebbero segnalarvi la presenza di un agente dal nome “gc.zgo.at”, ma si tratta sostanzialmente di Goatcounter, piccolo servizio opensource che uso per contare le visite del sito (che a sua volta non traccia dati personali).

Il design come algoritmo dell'innnovazione

Andrea Cattabriga — Sat, 21 Jan 2023 00:00:00 +0000

Da un pò di tempo sia in contesti educativi che di aziendali mi ritrovo a parlare di design e soprattutto di come lo intendo io (spiegare cos’è il design oggi è sempre parte del menù).
Dopo anni nei quali ho usato una spiegazione che tenesse insieme varie sfaccettature, oggi vado diretto a questo schema che ho in bozza perenne, in attesa di dargli forma scientificamente rilevante.

In pratica propongo di vedere le attività progettuali come un algoritmo dell’innovazione, che tiene in considerazione le diverse scale della complessità, il tempo e l’impatto auspicato, poi i metodi di conseguenza. L’idea è decentrare l’oggetto dell’attività progettuale (caro a Buchanan quando definiva i 4 ordini del design¹).
E’ una personalissima teoria del tutto che ha come centro la relazione forte tra le grandezze chiave dell’organizzazione e le logiche delle attività progettuali. Grande ambizione, grandi difetti, lo so…

Alcune note veloci (ripromettendomi di concludere il paper che è lì da troppo tempo a lievitare):
- la chiave di complessità per la lettura del contesto e l’applicabilità di una certa strategia di conseguenza, viene dall’intramontabile Cynefin Framework di Dave Snowden²: non ho ancora codificato con precisione la possibilità di trasferire qui i livelli inquadrati da Snowden in quanto non c’è un allineamento ontologico fra le scale;
- euristicamente qui la strategia è un atto di scelta del dove posizionare l’impatto dell’innovazione, mentre la tecnica il modo per processarlo internamente;
- le 4 grandezze dell’organizzazione – apprendimento, conoscenza, proposito e rituali – sono fortemente innestate sull’asse valori/sapere (nell’epoca degli algoritmi, che possiamo vedere come strategie di mobilitazione della conoscenza, sarà certamente un tema da espandere);
- una premessa importante è che i processi di design (o progettuali), non possono avvenire ed essere astratti senza una contestualizzazione culturale agita dall’organizzazione che li costruisce;
- il livello più basso, quello dei metodi, vorrebbe essere anche quello più effimero e destinato a mutare, cambiare, adattarsi a linguaggi e ambiti.

Buchanan, R. (1992). Wicked Problems in Design Thinking. Design Issues, 8(2), 5–21. https://doi.org/10.2307/1511637 ↩︎
Snowden, D. J., & Boone, M. E. (2007, November 1). A Leader’s Framework for Decision Making. Harvard Business Review. https://hbr.org/2007/11/a-leaders-framework-for-decision-making ↩︎

AI e la via catastrofica

Andrea Cattabriga — Mon, 23 May 2022 00:00:00 +0000

Riflettendo sul livello del dibattito relativo all’intelligenza artificiale trovo sempre più difficile accettare la deriva catastrofista, fondata su di una presunta agentività “della macchina” e dell’inesorabile inclinazione del piano verso l’annichilimento dell’uomo. Primo perché l’assunto della macchina come di un UNO dotato di intenzionalità mi pare totalmente fuori luogo (o figlio di un livello di ingenuità anche tecnica, non più perdonabile), e secondo perché la scusa della macchina dotata di agentività sottende un vuoto nella capacità umana di dare senso al proprio interagire con essa (o peggio, una percezione dell’AI stregonesca, mitologica e divinatoria).

Essendo un paio di anni che mi sento alla rincorsa di un pezzo di ragionamenti filosofici sull’AI, ho deciso di fermarmi e di capire se sono davvero io che non trovo il bandolo della matassa o se c’è una più ampia responsabilità di molti “addetti” che non vogliono sgonfiare la speculazione intellettuale. Guardiamo forse alla filosofia – giustamente – per creare senso, senza però chiederle abbastanza rigore? Senza chiederle abbastanza interazioni, interconnessioni e apertura? (le uniche “vere garanzie” garanzie dal punto di vista etico che dobbiamo pretendere, che coincidono un pò con le stesse mancanze che oggi giustamente attribuiamo alle “corporation”, ai pregiudizi degli sviluppatori e dei data scientist). (Mi sembra ci sia un pasticciaccio brutto nei pressi delle sovrapposte e fumose definizioni di agentività, con la complicità di altrettanto estreme manipolazioni o storpiature delle varie teorie degli assemblaggi. Un pizzico di ANT e nuovo materialismo quanto basta, ed ecco che ti volti e non capisci più chi abbia sparato il colpo.) Io sono giunto ad una – seppur temporanea – posizione di cauto sospetto verso gli stregoni (quelli che vendono l’olio di serpente nelle piazze, per capirci), accompagnata da una crescente percezione che ci stiamo servendo dell’ignoranza degli stregoni stessi per mascherare una catena di cattive teorie date un pò per buone troppo alla leggera nei decenni (dall’idea della mente come computer alla natura “aliena” dell’AI) e la nostra diffusa tendenza a parlare delle cose avendo letto solo i titoli. Forse è proprio ai non-filosofi che oggi dovremmo chiedere un pò più di coraggio nel contribuire a dare senso ai fenomeni emergenti.

Alcune cose, in ordine sparso, da cui partire:

non serve lavorare sulle definizioni, serve lavorare sul senso (se l’AI è essa stessa un concetto che definiamo per inferenza, e ne parliamo senza ancora un’idea chiara di cosa sia la nostra intelligenza, dobbiamo stare dentro questa incertezza e va bene così);
l’AI è un fenomeno socio-tecnologico, quindi non va lasciata né solo in mano ai tecnici né solo in mano a chi osserva dall’esterno: è una cosa complessa, ma è di tutti “da smazzare”: il vuoto he lasci tu lo riempie sempre qualcun altro…
se si vuole, anche le reti neurali sono ormai del tutto leggibili (vedi nuovi strumenti di OpenAI API che documentano CLIP);
presto saranno anche del tutto spiegabili i process delle reti neurali (quindi a nudo rimarranno come sempre i problemi di progettazione e di intenzionalità/cultura dei progettisti, non il pensiero “alieno”);
l’idea che sia possibile andare avanti solo con modelli che si nutrono di dataset enormi è un altro preconcetto (che il ritorno di interesse verso modelli che si ibridano con approcci simbolici sta mettendo in discussione);
la dislocazione degli effetti causati dalle infrastrutture fisiche a supporto di tecnologie AI-based è tecnicamente tracciabile e documentabile, ma serve volontà politica (si, la politica);
dobbiamo fare uno sforzo maggiore di educazione (non indirizzato solo al reclutamento di studenti per il settore, ma anche al rendere accessibile per il grande pubblico buona parte del discorso);
l’illusione della modularizzazione universale delle tecnologie digitali creerà qualche problema quando si parla di utilizzo di AI per risolvere problemi locali/territoriali nel contesto di problemi più ampi e sistemici. Ad esempio perché modelli pre-allenati su dati e contesti diversi non funzionano sempre se ricontestualizzati (viva l’open source e le risorse a basso costo, ma guardiamo sempre dentro alle scatole prima di comprare…). Serve un grande lavoro sul fronte della cultura del dato e di riconnessione con la “conoscenza situata” , mettendo in relazione fonti e strutture informative eterogenee, dai big-data, ai sensori alla conoscenza scientifica, alle relazioni ecosistemiche (sto lavorando su questa cosa qua nella mia ricerca di phd)
ci sono praterie per intellettuali e creativi, nel lavoro interpretativo da compiere a livello di significati e di ruolo attivo dell’uomo nella cognisfera, in termini di valori e di agentività attiva, colmando il vuoto che oggi riempiamo attribuendone una “alla macchina” (a patto di non buttare benzina sul fuoco delle fregnacce e di sporcarsi le mani davvero);
l’etica è necessaria per un’AI giusta, ma serve sporcarsi di più le mani col codice (parlo a chi ci lavora da prospettive non-software), perché altrimenti diamo per scontate troppe fregnacce;
serve una maggiore prontezza nel battezzare le fregnacce.

L’elenco può essere ancora lungo, aiutatemi. 🙂

Quale innovazione ci salverà?

Andrea Cattabriga — Mon, 27 Dec 2021 00:00:00 +0000

Non ci salveranno le narrazioni da “nuovo umanesimo”, le presunte rinascite da pandemie che dovevano lasciarci migliori, non ci salveranno da soli tutti i modelli circolari e tanto meno obiettivi qualitativi di “sviluppo sostenibile” al ribasso, ma una nuova ermeneutica dell’innovazione.

Sulle pagine del sito di Chiara, mi sono detto, bisogna scrivere d’innovazione. Ho pensato parecchio sul cosa avesse senso che spendessi bit e tempo di lettura altrui, per arrivare a decidere che credo meglio spese queste risorse per fare un passo indietro, provando a parlare del perché credo che ci stiamo dedicando in maniera troppo religiosa al discorso sull’innovazione, ignorando retoricamente ciò che dovremmo avere il coraggio di fare.

I fatti, prima di tutto. L’essere che ha creduto di poter plasmare per secoli l’ambiente che lo circonda, che ha creato Scienza, Filosofia e Religioni per spiegarsene il funzionamento ed esercitarne il controllo, sembra divenuto incapace di agire per evitare di perderlo questo ipotetico controllo, ma più che altro per evitare una sempre più probabile e dolorosa resa dei conti con le conseguenze dei cambiamenti climatici. Questa incapacità di agire, che alcuni imputano alla dimensione sistemica e complessa dei nostri problemi, ci ha portati a immaginare diversi modelli di soluzione. C’è chi aspetta che qualche miracolosa tecnologia abbinata a ingenti quantità di capitali ci tiri fuori dallo stallo, c’è chi all’opposto sostiene che essendo troppo tardi per invertire i macro-trend ci si debba rassegnare al tramonto della nostra civiltà (non che si morirà tutti, ma per lo meno ci dovremo abituare a un concetto di progresso un pochino ridimensionato…).

Nello spazio tra queste visioni – che sono pur sempre incomplete e parziali, nel senso che fotografano uno scenario possibile, certamente probabile, ma solo uno dei tanti – dovremmo metterci un modo nuovo di pensare che accetta di stare nella complessità e nell’indeterminatezza, abbracciando il rischio di esistere. Accettare che lo scopo della nostra esistenza non sia costruire sicurezza e certezze, accumulare risorse per minimizzare rischi, ma forse e più semplicemente cercare un modo per vivere godendo più intensamente delle relazioni che danno valore al nostro tempo. Non si tratta solo di nutrire e curare gli affetti, ma di ricostruire la capacità di parlare con noi stessi ritrovando il rapporto con la nostra dimensione collettiva e con tutto ciò che umano non è. Non è una questione filosofica, vorrei essere chiaro: il motivo centrale per cui ci troviamo in questo Antropocene emergenziale è da cercarsi proprio nel senso del rapporto con tutto ciò che abbiamo sempre inteso come risorse a nostra disposizione, accorgendoci troppo tardi che questa nostra indole estrattiva non è certamente guaribile con misure ordinarie.

Ciò che mi preoccupa di più è che il flebile dibattito pubblico, retoricamente incentrato sulla rassicurazione collettiva (“abbiamo ancora 20 anni per fare questo, 10 anni per tentare di fare quest’altro…”, dandoci obiettivi ridicoli e non misurabili), sembra portarci inesorabilmente verso l’accettazione di modelli di soluzione strutturalmente inadeguati (sia perché non mettono a fuoco una roadmap convincete e misurabile e sia perché accompagnati da strumenti di governance altrettanto inefficaci). Siamo inchiodati in un loop infernale tra mancanza d’immaginazione e capacità di credere che esistano strumenti diversi da quelli che abbiamo a disposizione. Chi si immagina di uscire da questo loop esiste, ma siamo diventati incapaci di ascoltare e più che altro di sfidare quel maledetto, sfegatato conservatore del nostro istinto di conservazione, che ogni tanto ci paralizza e ci impedisce di usare quelle doti che tanto decantiamo nel profilo del candidato ideale. L’homo economicus perfetto, il company-guy che tutti sognano e che ci descrivono dagli account Linkedin Premium è flessibile, trasversale, capace di reagire alle avversità, multidisciplinare, impara a imparare, è progettuale, ma anche tecnico e T/H/Z-qualcosa-shaped. Conosciamo bene l’identikit dell’essere in grado di traghettare le nostre organizzazioni nel futuro, ma non siamo capaci di mettere le qualità di quell’essere al centro della soluzione per l’umanità. Ho detto soluzione, quindi immagino ci si aspetti che la metta qui, come se ce l’avessi in tasca. In effetti la soluzione ce l’ho* anche se non è per niente semplice come i più vorrebbero: dobbiamo dare mandato a quell’essere ideale che non accetta di risolvere i problemi da solo, che fa leva sull’intelligenza collettiva (ahimè, non c’è spazio per espandere qui questo concetto), che sta nella complessità costruendo visioni partecipate, sistemiche e adattive (perché sa che non ce n’è una che funziona sempre e dovunque) e che per costruire soluzioni si inventa anche modi nuovi per usare strumenti che già conosce e possiede. Senza questi ingredienti fondamentali nessun piano ci porterà oltre il guado. Nessun approccio altrimenti, ci regalerà la capacità di guardare a ciò che sta oltre la nebbia, ciò che non conosciamo ancora e che possiamo raggiungere solo con metodi che dobbiamo progettare da capo (abbracciando concetti scomodi, dal multispecismo alla decolonizzazione del pensiero, rifiutando quel determinismo arrogante che ci impedisce di capire cosa vuol dire complessità).

Viviamo ancora in quella tragica separazione fra tecnica e società descritta da Bruno Latour già trent’anni fa, misurandone i profetizzati danni politici, accatastandone le macerie sociali, collettivamente parametrizzati a modelli di misurazione del progresso basati sulla chiusura dei saperi, sul reddito medio (scordandoci della metafora dei polli), o premiando, a livello sistemico, gli stessi modelli d’innovazione che ci hanno scavato la fossa. Compriamo su piattaforme il cui elogio al modello di business o all’efficienza dell’esperienza utente ci fa dimenticar e quali siano i costi - sistemici - dei nostri nuovi comportamenti; adoriamo innamorarci di approcci tecnologici il cui potere immaginifico ce ne fa ignorare il significato profondo, galleggiando su mitologie sempre più deboli e nuovi eroi che decadranno, probabilmente, al prossimo tweet o col loro razzo spaziale.

L’innovazione che ci serve non è più – da sola – quella basata su di un progressismo incrementale, maieutico e paternalista, quello che ci fa bastare un primato “economico” da classifica sul ventiquattrore, la pancia piena oggi o meglio, un “apericena” durante il declino della nostra civiltà. L’innovazione che ci serve non è quella reotorica de “l’essere umano al centro” (oltre che concetto in toto da superare), fatta con post-it intrisi di pregiudizi o per assurdo continuando a lasciarla a chi pensa di poter decidere chi è più umano di un altro e non si fa di certo demandando a un Prometeo qualsiasi di generare il futuro per inferenza. L’innovazione che ci serve sarà figlia di un pensiero radicale - si, l’ho detto – che ci consenta di immaginare futuri diversi col coraggio di chi sa di non sapere come potrebbero essere e costruendo la prospettiva dei nostri gesti dalla giusta distanza spazio-temporale.

Manifattura è democrazia è autonomia

Andrea Cattabriga — Wed, 05 Oct 2016 00:00:00 +0000

La produzione non è più solo questione di specializzazione e scala, è questione di scopo e ruolo sociale. Per questo le sfide di scenario imposte dal progresso tecnologico, le ripercussioni sul mondo del lavoro e quindi sulla società intera, a vari livelli ed in tutti i settori, ci impongono un’azione concreta volta allo sviluppo di politiche inclusive ed abilitanti anche per la manifattura. Dagli autoproduttori alle piccole comunità ed i loro luoghi della peer-production, dalla micro impresa iper-specializzata al grande impianto smart, dobbiamo essere in grado di creare le condizioni per un ecosistema multilivello in cui l’accesso orizzontale e verticale a competenze e risorse diventa un’incredibile opportunità per tutti. Nel momento in cui il Governo ci indica la propria visione strategica sull’Industria 4.0 ci accorgiamo che i metodi e gli strumenti vanno potenziati e corretti perchè non basta tenere “aperti” i protocolli M2M che sopporteranno la digitalizzaizione e l’automazione spinta dei processi, serve costruire condizioni strutturalmente orientate ad una visione sociale della manifattura, a tutti i suoi livelli.

+++ SAVE THE DATE +++

Domenica dalle 12 vi aspetto a BASE Milano dentro a Il Terzo Festival delle Comunità del Cambiamento di RENA per parlare di manifattura, in pratica, adesso, nella prospettiva di un futuro instabile e tutto da costruire, proprio nel periodo in cui il Governo comunica la sua strategia per l’industria 4.0. Cosa dovremmo fare arrivare a sperimentare il prima possibile soluzioni collaborative, ecosistemiche e inclusive per far si che la tecnologia e la digitalizzazione della produzione siano realmente un’opportunità per tutti? E quando dico tutti voglio dire comunità, makers, artigiani, PMI specializzate fino ai gestori degli impianti “smart” di nuova generazione. Come si costruisce un processo che crei condizioni favorevoli per l’uomo e la società in uno scenario potenzialmente monopolizzato dall’automazione? Ecco, da qui partiamo per arrivare a portare queste istanze dove forse qualcuno dovrà ascoltare, finché siamo in tempo.

Ecco la formazione oltre al sottoscritto: Andrea Di Benedetto – Vicepresidente CNA, Presidente Polo Tecnologico Navacchio Stefano Maffei – Politecnico di Milano (fac. Design), Polifactory Paolo Manfredi – ConfArtigianato e autore di “L’economia del su misura” Sergio Terzi – Politecnico di Milano, Osservatorio Smart Manufacturing Francesco Samorè – direttore scientifico Fondazione Bassetti Sabina Barcucci – OpenDot makerspace, MUSE Trento fab lab

Dopo i panel ci spostiamo tutti nella zona co-working per una sessione di co-design e prototipazione di alcuni possibili progetti pilota per una visione ecosibemica della manifattura da proporre subito.

Perchè l'ho chiamata Slow/d

Andrea Cattabriga — Fri, 11 Mar 2016 00:00:00 +0000

Il concetto è semplice: i sogni iniziano forte quando cominci a chiamarli per nome. Grazie a registro.it per il servizio e la storia.

(il testo che segue l’ho preso dal sito del progetto originale unnomeunsogno.it):

Esiste una piattaforma online che riporta il design nelle botteghe. Si chiama Slow/d e dal 2011 connette oltre 1336 iscritti tra designer e artigiani che scambiano in rete il loro know-how da ogni parte del mondo. I due fondatori, Andrea Cattabriga e Sebastiano Longaretti, entrambi architetti, hanno trovato il modo di unire il mondo artigianale delle loro famiglie a internet. Il progetto è partito dalla necessità di realizzare alcuni prototipi dei loro prodotti e venderli sia a Bergamo che a Modena. Da qui l’idea di creare un network in grado di collegare gli ideatori di prototipi e coloro che li avrebbero in seguito realizzati, mettendoli a disposizione del cliente finale ovunque esso si trovi. Come ci sono riusciti? Hanno dato un nome al loro sogno e l’hanno portato online. Il nome scelto non è casuale e loro stessi lo definiscono rappresentativo di un paradosso. Slow/d, infatti, rimanda ad una dimensione “lenta” che oggi rappresenta invece una community super veloce. All’interno di questa community i designer vedono Slow/d come un’opportunità per ottenere visibilità e realizzare concretamente i loro prototipi, mentre gli artigiani trovano un valido punto di accesso per la ricerca e lo sviluppo di nuovi prodotti. La piattaforma permette di creare tra le due parti una filiera produttiva orizzontale, senza intermediazione di altre persone: così un designer inglese può mettersi in contatto con un artigiano italiano abbattendo i costi legati alla logistica. Dal lato del consumatore finale, il prodotto di design diventa a km zero: tutti i clienti, infatti, hanno la possibilità di acquistare un prodotto online e farlo realizzare all’artigiano Slowd più vicino a casa sua. Grazie a Slow/d il design ora è alla portata di tutti.

Calzagatti, ovvero di questo blog (spiega breve)

Andrea Cattabriga — Wed, 02 Jul 2014 00:00:00 +0000

I calzagatti sono frittelle di polenta e fagioli. sono il mantra della cucina modenese inteso come rappresentazione della cultura da cui nasce, una sorta di declinazione gastronomica di un haiku. Il fagiolo è povero, la polenta è sempre stata emblema della sussistenza contadina, una sorta di povero + povero x fritto = ricco: l’effetto dell’addizione è esponenziale nella misura in cui ti accorgi che il risultato finale è buonissimo e che la natura “collettiva” del piatto, intesa come moltitudine di elementi pressoché identici è simbolo della nostra capacità di connettere e aggregare i “piccoli” per farli diventare un tutt’uno pesante.

Così come i calzagatti i post del blog cercano di essere parti di una cosa organicamente funzionante, un sistema la cui ambizione è quella di far emergere significati interessanti.

O per farla più breve scrivo qui quello che reputo rilevante per me e forse per qualcun’altro, nella speranza che nel lungo periodo, mi aiuti a far capire quello che faccio e che mi interessa, senza “job titles”.

p.s. come molte delle grandi innovazioni dell’uomo, anche i calzagatti sembrano figli di un errore, una cameriera distratta che fece cadere i fagioli nella polenta

Ingredienti (per 4 persone)

350 g farina gialla 200 g fagioli borlotti secchi (OPPURE 500 g borlotti freschi) 50 g lardo (o pancetta) 50 g burro 300 g pomodori maturi o “pelati” 1/2 cipolla sale

Preparazione

Cuocere i fagioli in un litro di acqua salata (se secchi metterli a mollo la sera precedente) In un tegame,meglio se di terracotta,rosolare nel burro,un trito di lardo (o di pancetta) e cipolla. Appena la cipolla sara’ appassita unire i pomodori pelati spezzettati e dopo circa 10 minuti aggiungere anche i fagioli (ricordarsi di conservare l’acqua di cottura). Proseguire la cottura a tegame coperto per circa mezz’ora. Nel frattempo preparare una normale polenta versando, a pioggia ,nell’acqua di cottura dei fagioli, portata a ebollizione, la farina gialla. Mescolare velocemente e proseguire nella cottura sempre rimestando per circa 30 minuti. Unire la salsa con i fagioli alla polenta e cuocere per altri 15 minuti. Versare la polenta su di un vassoio in modo da ottenere uno strato alto circa 1,5 cm e lasciare raffreddare. Ritagliare dei rettangoli o dei rombi di circa 10 cm x 5 cm e friggerli in padella con lo strutto a calore moderato in modo da ottenere una crosticina croccante da entrambe le parti. Si servono caldissimi.

FONTE: “Il Libro della Vera Cucina Emiliana“ di Paolo Petroni. Casa Editrice Bonechi - Firenze