Mamba (Model Ruang Keadaan)

Mamba adalah arsitektur model sekuensial yang diperkenalkan oleh Gu dan Dao pada tahun 2023 yang mencapai kompleksitas linier sambil mempertahankan kinerja yang kuat pada tugas pemodelan bahasa. Dengan menggabungkan model ruang keadaan (state space models) dengan selektivitas yang bergantung pada masukan, Mamba mengatasi kompleksitas kuadratik transformer sambil mempertahankan kekuatan pemodelan.