Pyraformer: Πυραμιδικός Μετασχηματιστής Προσοχής για Μακροπρόθεσμη Πρόβλεψη Χρονοσειρών
Το Pyraformer είναι ένα μοντέλο βασισμένο σε Μετασχηματιστή (Transformer) για μακροπρόθεσμη πρόβλεψη χρονοσειρών, το οποίο παρουσιάστηκε από τους Liu et al. στο ICLR 2022. Η κεντρική του καινοτομία είναι μια Πυραμιδική Μονάδα Προσοχής (Pyramidal Attention Module - PAM) που οργανώνει τα "tokens" σε μια ιεραρχία πολλαπλών αναλύσεων, επιτρέποντας στο μοντέλο να συλλαμβάνει χρονικές εξαρτήσεις σε πολλαπλές κλίμακες, διατηρώντας παράλληλα την πολυπλοκότητα χρόνου και μνήμης στο O(L log L) αντί για το τετραγωνικό κόστος της "απλής" αυτο-προσοχής.
Διαβάστε ολόκληρη τη μέθοδο
Συνδεθείτε με δωρεάν λογαριασμό για να διαβάσετε αυτή την ενότητα.
Method map
The neighbourhood of related methods — select a node to explore.
Πηγές
- Liu, S., Yu, H., Liao, C., Li, J., Lin, W., Liu, A. X., & Dustdar, S. (2022). Pyraformer: Low-complexity pyramidal attention for long-range time series modeling and forecasting. ICLR. link ↗
Πώς να παραπέμψετε σε αυτή τη σελίδα
ScholarGate. (2026, June 2). Pyraformer (Pyramidal Attention for Long-Range Forecasting). ScholarGate. https://scholargate.app/el/deep-learning/pyraformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Autoformer: Transformer Αποσύνθεσης για Μακροχρόνιες Προβλέψεις ΧρονοσειρώνΒαθιά Μάθηση↔ compare
- ΕνημερωτήςΒαθιά Μάθηση↔ compare
- Reformer: The Efficient Transformer for Long SequencesΒαθιά Μάθηση↔ compare
Αναφέρεται από
Εντοπίσατε πρόβλημα σε αυτή τη σελίδα; Αναφέρετέ το ή προτείνετε διόρθωση →