Entropia, informazione
e punti di vista

La parola che incontrai nei messaggi

La mia formazione era cominciata con gli studi classici in seminario ed era proseguita con quelli tecnici all’istituto industriale. Devo ammetterlo: la parola “entropia”, fino a un certo momento, non la conoscevo.

La incontrai per la prima volta non studiando termodinamica, ma avvicinandomi alla teoria dell’informazione di Claude Shannon e alla cibernetica di Norbert Wiener. All’ultimo anno dell’istituto tecnico avevo comprato alcuni libri, tra i quali ricordo Introduzione alla cibernetica e Informazione e messaggi. Erano letture che andavano oltre i programmi scolastici, ma rispondevano alla mia curiosità.

Per me, inizialmente, l’entropia riguardava i simboli, i messaggi e le probabilità: alfabeti binari, ternari, diverse combinazioni possibili. Nella teoria di Shannon misura l’incertezza media di una sorgente: se un simbolo è quasi scontato, riceverlo ci dice poco; se è difficile prevedere quale arriverà, la sua ricezione porta mediamente più informazione. Non si misura il significato o la bellezza di un messaggio, ma la sua imprevedibilità statistica.

Cominciavo così a capire anche la ridondanza: le ripetizioni, le regolarità e i vincoli che rendono un messaggio in parte prevedibile. Non necessariamente qualcosa di inutile: la ridondanza opportunamente costruita può aiutare a riconoscere o correggere errori di trasmissione.

Era un modo di pensare che mi affascinava: dietro una sequenza di simboli si potevano riconoscere strutture, possibilità e limiti.

La termodinamica e la grandezza di Boltzmann

Solo all’università, nel corso di termodinamica di Fisica I tenuto dal professor Chiarotti, quella parola acquistò per me una profondità diversa.

Non voglio trasformare queste pagine in un manuale. Voglio raccontare che cosa mi colpì: il rapporto tra reversibilità e irreversibilità, tra ciò che le leggi permettono alle singole particelle e ciò che osserviamo nel mondo di tutti i giorni.

Cominciai allora ad ammirare la grandezza di Boltzmann: il passaggio dalla descrizione microscopica delle particelle a quella macroscopica, nella quale contano le proprietà collettive e il numero delle configurazioni compatibili con uno stesso stato osservabile. Uno stato di maggiore entropia corrisponde, in questo senso, a un insieme più vasto di configurazioni microscopiche.

Mi veniva persino da sorridere pensando alle mie letture politiche: dall’individuo al collettivo, dalla singola particella al comportamento dell’insieme. Naturalmente era un’associazione personale, non una dimostrazione fisica del marxismo. Ma racconta come, nella mia testa, letture ed esperienze cercassero continuamente collegamenti.

Più che “disordine”, probabilità

La parola “disordine” non mi ha mai soddisfatto del tutto. Preferisco pensare alla probabilità: un sistema macroscopico isolato, inizialmente lontano dall’equilibrio, evolve tipicamente verso macrostati compatibili con un numero enormemente maggiore di configurazioni microscopiche. Il ritorno spontaneo alla situazione iniziale non è semplicemente vietato dalle leggi microscopiche: è straordinariamente improbabile.

È questo che mi colpiva: come potesse emergere una direzione riconoscibile del tempo dal comportamento di un numero immenso di particelle.

Non significa che l’entropia spieghi, da sola, ogni aspetto del tempo. Ma il legame tra evoluzione verso l’equilibrio e irreversibilità mi fece guardare diversamente quel passare del tempo che sentiamo così inesorabile.

La musica e l’ordine che costruiamo

A questo punto il pensiero torna alla musica, un’altra presenza costante della mia vita. Nelle grandi composizioni sento qualcosa che prende forma: le note non sono soltanto una successione di suoni, ma diventano relazioni, richiami, attese e strutture. Mi piace pensarlo come un ordine costruito localmente dentro un mondo di possibilità.

È un’immagine che mi aiuta a ragionare, non una misura termodinamica della bellezza. Una composizione non ha necessariamente meno entropia informativa di un’altra, né basta mettere in ordine delle note per dimostrare una diminuzione dell’entropia fisica. Anche la sorpresa, l’imprevisto e la complessità possono fare parte della musica.

La possibilità di una diminuzione locale dell’entropia fisica, però, esiste: un sistema può ridurla scambiando energia o materia con l’esterno, purché il bilancio complessivo con l’ambiente rispetti il secondo principio. Non è una smentita della termodinamica: è importante ricordare quali confini abbiamo scelto per il sistema.

La musica, per me, resta una bellissima immagine della nostra capacità di costruire organizzazione e significato. Non ferma il tempo, ma gli dà una forma che possiamo ascoltare.

Un mazzo di carte: che cosa stiamo guardando?

Anche le parole “ordine” e “disordine”, nel linguaggio di tutti i giorni, dipendono da ciò che decidiamo di osservare e dalle regole con cui interpretiamo le cose.

Penso a un mazzo di carte. Se lo guardiamo dal dorso, con le carte tutte orientate nello stesso verso, ci appare uniforme: vediamo lo stesso disegno ripetuto. Se giriamo le carte, compaiono semi e valori, e una sequenza che prima non distinguevamo può sembrarci disordinata rispetto all’ordinamento che abbiamo in mente.

Il mazzo non è cambiato perché lo abbiamo guardato dall’altra parte. Sono cambiate le informazioni alle quali abbiamo accesso. Guardare soltanto i dorsi non significa che l’incertezza sulla sequenza delle facce sia scomparsa: significa che quella sequenza ci è nascosta.

Non basta dunque dire che l’entropia è una questione di opinioni. Bisogna precisare quali proprietà distinguiamo, quali possibilità consideriamo e con quali probabilità. Ma l’esempio mi ricorda quanto sia importante chiedersi: ordine rispetto a che cosa? E per chi?

La mia scrivania e l’ordine degli altri

La mia scrivania è un esempio ancora più concreto. Per altri può essere disordinata; per me, invece, è molto ordinata, perché so perfettamente dove sono le mie cose.

Quando mia moglie la riordina secondo il suo criterio, io non trovo più nulla. Quello che ai suoi occhi è diventato ordine, per me ha interrotto una rete di riferimenti che funzionava benissimo.

Qui non sto misurando l’entropia termodinamica della scrivania. Sto parlando di un ordine funzionale: un’organizzazione che ha senso rispetto a chi la usa e a ciò che deve cercare.

Non tutto ciò che appare disordinato è privo di struttura. A volte la struttura c’è, ma non conosciamo ancora il modo di leggerla.

Da queste domande al calcolo iperdimensionale

Queste riflessioni mi hanno accompagnato fino agli studi più recenti sull’HDC, il calcolo iperdimensionale, e a un algoritmo di ricerca in database non ordinati basato su un metodo statistico.

Il collegamento, per me, è nel modo di porre la domanda: come ritrovare ciò che cerchiamo quando i dati non sono organizzati secondo l’ordinamento al quale siamo abituati? Quali rappresentazioni e quali relazioni possiamo usare?

Non è una deduzione automatica dalla termodinamica, ma un filo del mio percorso: dalla probabilità dei simboli alla logica, dalle strutture dei messaggi ai modi di rappresentare e ricercare informazione. Il metodo e i progetti li racconto nella sezione dedicata a HDC.

HDC e Magic Vector: il metodo e i progetti →

Il tempo e ciò che possiamo trasmettere

Pensando alla freccia del tempo, il pensiero correva anche alla quiete, alla fine delle differenze, alla morte. Era una mia riflessione, forse un po’ pessimistica, non una definizione scientifica: all’equilibrio il movimento microscopico non scompare.

Eppure quella prospettiva non mi ha lasciato soltanto malinconia. Mi ha fatto sentire quanto siano preziosi i momenti nei quali qualcosa prende forma: un’idea, una musica, un progetto, una conoscenza che passa da una persona all’altra.

Non fermiamo il tempo. Ma possiamo abitare il tempo che abbiamo cercando di capire e lasciando qualcosa agli altri.

Forse è anche per questo che ho continuato a studiare, a costruire e a insegnare: non per fermare ciò che passa, ma per dare valore a ciò che, passando, possiamo trasmettere.