MCDMInformation-theoretic divergence
דיברגנץ קולבק-לייבלר
דיברגנץ קולבק-לייבלר, הידוע גם כאנטרופיה יחסית או דיברגנץ מידע, מודד את ההבדל הא-סימטרי בין שתי התפלגויות הסתברות. מדד זה, שהוצג על ידי סולומון קולבק וריצ'רד לייבלר בשנת 1951, מכמת כיצד התפלגות הסתברות אחת סוטה מהתפלגות ייחוס, בטווח שבין 0 (התפלגויות זהות) לאינסוף. הוא מהווה בסיס בתיאוריית המידע, למידת מכונה וקבלת החלטות במסגרות הסתברותיות.
קראו את השיטה במלואה
לחברים בלבד
התחברותהתחברו עם חשבון חינמי כדי לקרוא חלק זה.
מפת שיטות
סביבת השיטות הקרובות — בחרו צומת כדי לחקור.
מקורות
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/he/decision-making/kullback-leibler-divergence
איזו שיטה?
הציבו שיטה זו לצד קרובותיה הקרובות וקראו אותן זו לצד זו — הספרייה מניחה את הספרים על השולחן; הבחירה בידיכם.
- מרחק הלינגרקבלת החלטות↔ השוואה
- דיברגנץ ינסן-שנוןקבלת החלטות↔ השוואה