Vettori atomici
Concetti elementari, valori, posizioni o simboli ricevono hypervector di base.
Hyperdimensional Computing · AI efficiente · Hardware
HDC e Magic Vector Memoria associativa, similarity search e architetture parallele
Una linea di ricerca su rappresentazioni iperdimensionali, ricerca associativa e algoritmi implementabili in software, FPGA, sistemi in-memory e piattaforme ottico-elettroniche.
Hyperdimensional Computing
Rappresentare concetti con vettori ad alta dimensionalità
Hyperdimensional Computing, o HDC, è un paradigma di calcolo che rappresenta dati, simboli, immagini, sequenze e relazioni mediante hypervector: vettori con migliaia di componenti. In spazi ad alta dimensionalità è possibile costruire numerosi vettori quasi ortogonali, quindi poco correlati tra loro.
Le informazioni complesse vengono costruite con operazioni semplici e distribuite: binding/XOR per collegare concetti, bundling o maggioranza per sovrapporre elementi, permutazione per rappresentare ordine e sequenze, e misure di similarità per classificare una query.
Questa semplicità rende HDC interessante per AI efficiente, memoria associativa, elaborazione di segnali, sistemi embedded e architetture hardware parallele.
Flusso HDC
Dai dati alla memoria associativa
Una tipica pipeline HDC associa hypervector a elementi di base, costruisce rappresentazioni composite e confronta una nuova query con la memoria delle classi.
Binding e bundling
Operazioni bitwise e maggioranza compongono dati, strutture, sequenze e categorie.
Classi memorizzate
Le rappresentazioni delle classi o dei comportamenti sono conservate nella memoria associativa.
Ricerca di similarità
Una query viene confrontata con la memoria per individuare la classe più compatibile.
Contributo algoritmico
Perché Magic Vector
La fase di inferenza può richiedere molti confronti tra l’hypervector di query e le classi presenti nella memoria associativa. Magic Vector propone una diversa organizzazione della ricerca, basata su segmenti e lettura statistica della distribuzione dei bit.
Il problema
Nel metodo convenzionale la query viene confrontata con ogni hypervector memorizzato per calcolare una distanza o una similarità. Quando crescono classi e dimensionalità, questa sequenza richiede più letture, confronti e decisioni.
L’idea Magic Vector
La memoria è organizzata in gruppi di bit. Il Magic Vector incorpora segmenti selezionati dei vettori memorizzati; applicando operazioni bitwise alla query, il gruppo associato alla classe più probabile manifesta un comportamento statistico distinguibile, misurabile con conteggi o picchi.
Ricerca associativa
La ricerca viene trasformata da una lunga sequenza di confronti a una lettura parallela dei segmenti. L’efficacia dipende dal rapporto fra dimensione dell’hypervector, numero di classi, distribuzione dei vettori e livello di rumore.
Estensioni
Lo stesso approccio è esplorato per cleaning memory, fattorizzazione di composizioni, codebook multipli e strutture chiave-valore, mantenendo un insieme di primitive binarie semplici.
Implementazioni
Dal modello algoritmico al prototipo
Il lavoro HDC è pensato come ricerca progressiva: simulazione e verifica software, implementazione hardware e integrazione con architetture ottico-elettroniche.
Software e sperimentazione
Generazione di codebook, query, test di similarità, degradazione controllata dei vettori e verifica dei risultati in funzione della dimensionalità e del numero di classi.
- Hypervector binari e bipolari
- Binding, bundling, permutazione
- Segmentazione e Magic Vector
- Similarity search e fattorizzazione
FPGA e Verilog
Prototipi di core HDC per FPGA con codebook in memoria, operazioni bitwise parallele e controllo a stati finiti.
- BRAM e codebook inizializzati da file MIF
- XOR/binding e majority-sum/bundling
- Costruzione segmentata di Magic Vector
- Interfacce e test su piattaforme FPGA
HDC + LLM e RAG
Esplorazione di sistemi ibridi nei quali LLM ed embedding contribuiscono alla comprensione e generazione, mentre HDC può fornire memoria associativa, retrieval, composizione e classificazione locale efficiente.
- Embedding e rappresentazioni vettoriali
- Similarity search e retrieval
- Memoria associativa per pipeline RAG locali
- Architetture software ibride in evoluzione
HDC + OptoPC
Le primitive HDC — operazioni bitwise, sovrapposizione, conteggio e decisione statistica — costituiscono un caso di studio naturale per architetture parallele ottico-elettroniche.
- Canali ottici e vettori distribuiti
- TFT/LCD, sensori e controllo FPGA
- Elaborazione parallela riconfigurabile
- Integrazione con il progetto OptoPC
Documento pubblico
Magic Vector e memoria associativa HDC
Un nuovo algoritmo di ricerca di somiglianza in un singolo passaggio nella memoria associativa per il calcolo iperdimensionale
Luigi Loreti, Giovanni Todeschini, Francesco Regazzoni, Alessio Fumagalli. Documento tecnico pubblico su Hyperdimensional Computing, Magic Vector, ricerca associativa e fattorizzazione.
Il documento descrive la costruzione del Magic Vector, la ricerca di una classe nella memoria associativa, test sperimentali con differenti dimensionalità e numero di elementi, robustezza a degradazione della query e applicazioni a cleaning memory, fattorizzazione e strutture key-value.
Materiali in integrazione
Prossimi approfondimenti
Questa pagina è predisposta per accogliere documenti, screenshot, codice, presentazioni e dimostrazioni video sulle implementazioni già sviluppate.
LLM + HDC
Documentazione delle pipeline locali, esperimenti con embedding, retrieval, RAG e rappresentazioni iperdimensionali.
FPGA e prototipi
Diagrammi, moduli Verilog, test hardware, BRAM, codebook e visualizzazioni dei risultati.
Presentazioni e lezioni
Slide tecniche e contenuti didattici su HDC, Magic Vector, calcolo ottico e sistemi AI locali.
Video e lezioni
Materiale didattico in aggiornamento
Le lezioni e le dimostrazioni HDC saranno aggiunte qui selezionando i video più rilevanti dal canale YouTube. Per il momento il canale rimane il punto di accesso ai contenuti video disponibili.
Lezioni HDC, calcolo ottico e sistemi sperimentali
Questa sezione verrà aggiornata con player YouTube dedicati, presentazioni e collegamenti ai materiali associati alle singole lezioni.
Quando saranno disponibili gli URL esatti delle lezioni HDC, i video verranno organizzati per argomento e livello tecnico.
Contatti
Ricerca, implementazioni e confronto tecnico
Per informazioni su HDC, Magic Vector, FPGA, sistemi AI locali, implementazioni LLM + HDC e possibili collaborazioni.