Residuelle nevrale nettverk

Et residualt nevralt nettverk (RNN) er en klasse av nevrale nettverk designet for å prosessere sekvensielle data ved å opprettholde en skjult tilstand som bærer informasjon over tidstrinn. Introdusert i sin moderne form av Rumelhart et al. (1986) og videre formet av Elman (1990), ble RNN-er den dominerende arkitekturen for sekvensmodellering innen NLP, tale og tidsserieanalyse før fremveksten av oppmerksomhetsbaserte modeller.