Mamba (Modello a Spazio degli Stati)

Mamba è un'architettura di modello sequenziale introdotta da Gu e Dao nel 2023 che raggiunge una complessità lineare mantenendo prestazioni elevate sui compiti di modellazione del linguaggio. Combinando modelli a spazio degli stati con selettività dipendente dall'input, Mamba affronta la complessità quadratica dei transformer preservando la potenza di modellazione.