Machine learning
תערובת מומחים
תערובת מומחים (Mixture of Experts, MoE) היא ארכיטקטורת רשת עצבית דלילה, שהוצגה על ידי Shazeer ועמיתיו בשנת 2017 עם שכבת ה-MoE המבוקרת בדלילות (sparsely-gated), שבה רק תת-קבוצה של רשתות-משנה מומחיות מופעלת עבור כל קלט. כפי שנראה במודלים כגון Switch Transformer ו-Mixtral, היא שומרת על עלות החישוב קבועה גם כאשר סך כל הפרמטרים גדל.
קראו את השיטה במלואה
לחברים בלבד
התחברותהתחברו עם חשבון חינמי כדי לקרוא חלק זה.
מפת שיטות
סביבת השיטות הקרובות — בחרו צומת כדי לחקור.
מקורות
איך לצטט עמוד זה
ScholarGate. (2026, June 1). Sparsely-Gated Mixture of Experts (MoE). ScholarGate. https://scholargate.app/he/deep-learning/mixture-of-experts
איזו שיטה?
הציבו שיטה זו לצד קרובותיה הקרובות וקראו אותן זו לצד זו — הספרייה מניחה את הספרים על השולחן; הבחירה בידיכם.
השוואה זה לצד זה →