Time-MoE: מודל יסוד לאוטו-רגרסיה בסדרות עתיות המבוסס על תערובת מומחים
Time-MoE הוא מודל יסוד אוטו-רגרסיבי בקנה מידה של מיליארדי פרמטרים לחיזוי אוניברסלי של סדרות עתיות, שהוצג על ידי Shi et al. בשנת 2024 והתקבל ב-ICLR 2025. הוא משלב ארכיטקטורת טרנספורמר עם שכבות הזנה קדימה (feed-forward) מסוג תערובת מומחים (Mixture-of-Experts - MoE) דלילה, המאפשרת למודל להתרחב למיליארדי פרמטרים תוך הפעלת תת-קבוצה קטנה בלבד של רשתות מומחים לכל טוקן — מה שמגדיל באופן דרמטי את הקיבולת ללא עלות חישובית פרופורציונלית.
קראו את השיטה במלואה
התחברו עם חשבון חינמי כדי לקרוא חלק זה.
Method map
The neighbourhood of related methods — select a node to explore.
מקורות
- Shi, X., Wang, S., Nie, Y., Li, D., Ye, Z., Wen, Q., & Jin, M. (2024). Time-MoE: Billion-scale time series foundation models with mixture of experts. ICLR 2025. link ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 2). Time-MoE (Mixture-of-Experts Time-Series Foundation Model). ScholarGate. https://scholargate.app/he/deep-learning/time-moe
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- כרונוס: מודל יסוד מקוון (Tokenized) לחיזוי סדרות עתיותלמידה עמוקה↔ compare
- תערובת מומחיםלמידה עמוקה↔ compare
- TimesFM: מודל יסוד מבוסס מפענח בלבד לחיזוי סדרות עתיותלמידה עמוקה↔ compare