Sekvenssi- ja generatiiviset mallit

103 menetelmää tässä perheessä.

Esittelyssä

HuomiomekanismiThe attention mechanism, introduced by Bahdanau, Cho and Bengio in 2015 and refined by Luong, Pham and Manning the same year, lets a sequence decoder dynamically learn which of the AutoenkooderiAn autoencoder is an encoder-decoder neural network, popularised by Hinton and Salakhutdinov in 2006, that compresses data into a low-dimensional latent code and then reconstructs Kaksisuuntainen RNNA Bidirectional RNN, introduced by Schuster and Paliwal in 1997, processes a sequence in both forward and backward directions so that every position has access to its full surround CrossformerCrossformer is a Transformer-based architecture for multivariate time series forecasting, introduced by Yunhao Zhang and Junchi Yan at ICLR 2023. Unlike earlier Transformer variant CycleGAN: Parittomien kuvien välinen käännös syklinmukaisuudellaCycleGAN, introduced by Zhu et al. at ICCV 2017, learns to translate images between two visual domains without requiring paired training examples. It trains two generators and two DeepARDeepAR is Amazon's industrial forecasting model, introduced by Salinas, Flunkert and Gasthaus (2017; published 2020), that uses an autoregressive recurrent neural network to estima

Lukupolku

Tämän aiheen viitatuimmat perusmenetelmät kehitysjärjestyksessään — hyvä aloituspaikka, jos olet täällä uusi.

Rekurrentti neuroverkko1986–1990tekijä Rumelhart, D. E.; Elman, J. L.
Pitkä lyhytkestoinen muisti (LSTM)1997tekijä Hochreiter, S. & Schmidhuber, J.
Gated Recurrent Unit (GRU)2014tekijä Cho, K., van Merrienboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., & Bengio, Y.
Generatiivinen kilpaileva verkko2014tekijä Goodfellow, I. et al.
Variational Autoencoder2014tekijä Kingma, D. P. & Welling, M.
Hienosäädetty Transformer2017–2019tekijä Vaswani et al. (architecture); fine-tuning paradigm popularised by Howard & Ruder, Devlin et al.
Monimodaalinen muuntaja2019–2021tekijä Lu et al. (ViLBERT); Radford et al. (CLIP)
Vision Transformer2021tekijä Dosovitskiy, A. et al.

kaikki tämän hyllyn menetelmät ↓

Kaikki menetelmät 103

Huomiomekanismi Autoenkooderi Kaksisuuntainen RNN Crossformer CycleGAN: Parittomien kuvien välinen käännös syklinmukaisuudella DeepAR Diffuusiomalli Domain-adaptiivinen diffuusiomalli Domain-Adaptive GAN Aluekohtainen GRU Aluekohtaisesti mukautuva toistuva hermoverkko Domain-Adaptive Sentence Embeddings Domain-Adaptive Transformer Aluekohtaisesti mukautuva variaatioon perustuva automaattinen enkooderi Domain-Adaptive Vision Transformer Selitettävä diffuusiomalli Selitettävä GAN Selitettävä GRU Selitettävä LSTM Selitettävä rekurrentti neuroverkko Selitettävä Transformer Selitettävä variaatioautokooderi FEDformer: Taajuusparannettu hajotettu Transformer Hienosäädetty diffuusiomalli Hienosäädetty generoiva kilpaileva verkko Hienosäädetty GRU Hienosäädetty LSTM Hienosäädetty rekurrentti neuroverkko Hienosäädetty tekstin tiivistäminen Hienosäädetty Transformer Hienosäädetty variaatioautokooderi Hienosäädetty Vision Transformer Gated Recurrent Unit (GRU)Generatiivinen kilpaileva verkko Graafiverkko (Graph Attention Network, GAT)Porttiyksikkö (GRU)Informer iTransformer: Inverted Transformer monimuuttuja-aikasarjaennustamiseen Latent Diffusion Models Pitkä lyhytkestoinen muisti (LSTM)Longformer / BigBird LSTM Masked Autoencoders Moirai: Universaali aikasarjaennusteen Transformer Monikielinen diffuusiomalli Monikielinen GAN Monikielinen GRU Monikielinen LSTM Monikielinen rekurrentti neuroverkko Monikielinen tekstin tiivistäminen Monikielinen variaatioautoenkooderi Monikielinen Vision Transformer Multimodaalinen diffuusiomalli Multimodaalinen GAN Monimodaalinen GRU Multimodal LSTM Multimodaalinen rekurrentti neuroverkko Monimodaalinen muuntaja Monimuotoinen variaatioautomaattinen enkooderi Multimodal Vision Transformer Non-stationary Transformer PatchTST Pyraformer Rekurrentti neuroverkko Reformer: Tehokas Transformer pitkille sekvensseille Generatiivinen pistemalli SegRNN: Segment Recurrent Neural Network pitkän aikavälin aikasarjaennustamiseen Monipäinen itsehuomio (Multi-Head Self-Attention)Itseohjautuva diffuusiomalli Itseohjautuva GAN Itseohjautuva GRU Itsearvioitu Transformer Itseohjautuva variaatioautomaattinen enkooderi Itseohjautuva Vision Transformer Puolivalvottu diffuusiomalli Puolivalvottu GAN Semi-supervised GRU Semi-supervised LSTM Puolivalvottu Transformer Puoliksi ohjattu variaatioautomaattinen enkooderi Puoliohjattu Vision Transformer Sekvenssistä sekvenssiksi -malli Swin Transformer T5 (Text-to-Text Transfer Transformer)Temporal Fusion Transformer Time-MoE: Mixture-of-Experts Time-Series Foundation Model TiRex: Nollalaukauksinen aikasarjaennustaminen xLSTM:llä Siirtopiirto-GAN Siirto-oppiminen variaatioautomaattisella enkooderilla Siirtokoulutus diffuusiomallilla Siirto-oppiminen LSTM:llä Siirto-oppiminen toistuvalla neuroverkolla Variational Autoencoder Vision Transformer Wasserstein GAN (WGAN)Heikosti ohjattu diffuusiomalli Heikosti ohjattu GAN Heikosti valvottu GRU Heikosti ohjattu LSTM Heikosti ohjattu rekurrentti neuroverkko Heikosti valvottu Transformer Heikosti valvottu Variaatioautokooderi Heikosti ohjattu Vision Transformer

Lisää ryhmässä Syväoppiminen

Arkkitehtuurit ja opettaminen 124