Multilingual Long Short-Term Memory Network

Una LSTM legge una sequenza token per token, mantenendo una cella di memoria che può conservare informazioni attraverso molti passi — ricordando un soggetto menzionato all'inizio di una frase quando in seguito deve assegnare un'etichetta. Quando estesa a più lingue, il modello apprende uno spazio di rappresentazione condiviso dove parole di lingue diverse con significati simili atterrano in regioni simili. Questo spazio condiviso consente al modello di trasferire ciò che ha appreso in una lingua a un'altra, il che è particolarmente utile quando i dati etichettati sono scarsi nella lingua di destinazione.