ScholarGate
Assistant

Séquentiel et génératif

103 méthodes dans cette famille.

À la une

Mécanisme d'attentionThe attention mechanism, introduced by Bahdanau, Cho and Bengio in 2015 and refined by Luong, Pham and Manning the same year, lets a sequence decoder dynamically learn which of theAutoencodeurAn autoencoder is an encoder-decoder neural network, popularised by Hinton and Salakhutdinov in 2006, that compresses data into a low-dimensional latent code and then reconstructs RNN bidirectionnelA Bidirectional RNN, introduced by Schuster and Paliwal in 1997, processes a sequence in both forward and backward directions so that every position has access to its full surroundCrossformerCrossformer is a Transformer-based architecture for multivariate time series forecasting, introduced by Yunhao Zhang and Junchi Yan at ICLR 2023. Unlike earlier Transformer variantCycleGAN : traduction d'images sans appariement par cohérence cycliqueCycleGAN, introduced by Zhu et al. at ICCV 2017, learns to translate images between two visual domains without requiring paired training examples. It trains two generators and two DeepARDeepAR is Amazon's industrial forecasting model, introduced by Salinas, Flunkert and Gasthaus (2017; published 2020), that uses an autoregressive recurrent neural network to estima

Parcours de lecture

Les méthodes fondamentales les plus citées de ce thème, dans l'ordre de leur développement — un point de départ si vous débutez ici.

  1. Réseau de neurones récurrent1986–1990par Rumelhart, D. E.; Elman, J. L.
  2. Long Short-Term Memory (LSTM)1997par Hochreiter, S. & Schmidhuber, J.
  3. Unité récurrente "gated" (GRU)2014par Cho, K., van Merrienboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., & Bengio, Y.
  4. Réseau antagoniste génératif2014par Goodfellow, I. et al.
  5. Autoencodeur Variationnel2014par Kingma, D. P. & Welling, M.
  6. Transformer affiné2017–2019par Vaswani et al. (architecture); fine-tuning paradigm popularised by Howard & Ruder, Devlin et al.
  7. Transformeur Multimodal2019–2021par Lu et al. (ViLBERT); Radford et al. (CLIP)
  8. Vision Transformer2021par Dosovitskiy, A. et al.
toutes les méthodes de ce rayon ↓

Toutes les méthodes 103

Mécanisme d'attentionAutoencodeurRNN bidirectionnelCrossformerCycleGAN : traduction d'images sans appariement par cohérence cycliqueDeepARModèle de diffusionModèle de diffusion adaptatif au domaineGAN adaptatif au domaineGRU Adapté au DomaineRéseau de neurones récurrent à adaptation de domaineEmbeddings de phrases adaptatifs au domaineTransformeur à adaptation de domaineVariational Autoencodeur à Adaptation de DomaineVision Transformer adaptatif au domaineModèle de diffusion explicableGAN ExplicableGRU ExplicableLSTM explicableRéseau de neurones récurrent explicableTransformer ExplicableAutoencodeur Variationnel ExplicableFEDformer : Transformeur décomposé à fréquence amélioréeModèle de diffusion affinéRéseau antagoniste génératif finement ajustéGRU affinéLSTM affinéRéseau neuronal récurrent affinéRésumé de texte affinéTransformer affinéVariational Autoencoder affinéTransformeur Vision AjustéUnité récurrente "gated" (GRU)Réseau antagoniste génératifRéseau d'attention sur grapheUnité récurrente à portes (GRU)InformeriTransformerModèles de Diffusion LatenteLong Short-Term Memory (LSTM)Longformer / BigBirdLSTMAutoencodeurs masquésMoirai : Transformer universel pour la prévision de séries temporellesModèle de diffusion multilingueGAN multilingueGRU multilingueLSTM multilingueRéseau de neurones récurrent multilingueRésumé de texte multilingueAutoencodeur variationnel multilingueVision Transformer multilingueModèle de diffusion multimodalGAN multimodaleGRU MultimodalLSTM multimodalRéseau neuronal récurrent multimodalTransformeur MultimodalAutoencodeur variationnel multimodalMultimodal Vision TransformerTransformeur non stationnairePatchTSTPyraformerRéseau de neurones récurrentReformer : le transformeur efficace pour les longues séquencesModèle génératif basé sur le scoreSegRNNAuto-attention multi-têtesModèle de diffusion auto-superviséGAN auto-superviséGRU auto-superviséTransformer auto-superviséAutoencodeur variationnel auto-superviséVision Transformer auto-superviséModèle de diffusion semi-superviséGAN semi-superviséGRU semi-superviséLSTM semi-superviséTransformeur semi-superviséAutoencodeur variationnel semi-superviséVision Transformer semi-superviséModèle séquence-à-séquence (Seq2Seq)Swin TransformerT5 (Text-to-Text Transfer Transformer)Temporal Fusion TransformerTime-MoE : Modèle Fondateur de Séries Temporelles à Mélange d'ExpertsTiRexApprentissage par transfert pour les GANApprentissage par transfert avec autoencodeur variationnelApprentissage par transfert avec modèle de diffusionApprentissage par transfert avec LSTMApprentissage par transfert avec réseau neuronal récurrentAutoencodeur VariationnelVision TransformerWasserstein GAN (WGAN)Modèle de diffusion faiblement superviséGAN faiblement superviséGRU faiblement superviséLSTM faiblement superviséRéseau neuronal récurrent à supervision faibleTransformeur faiblement superviséAutoencodeur variationnel faiblement superviséVision Transformer faiblement supervisé

Plus dans Apprentissage profond

Architectures et entraînement 124