واگرایی کولبک-لایبلر
واگرایی کولبک-لایبلر که به آن آنتروپی نسبی یا واگرایی اطلاعات نیز گفته میشود، عدم تقارن بین دو توزیع احتمال را اندازهگیری میکند. این معیار اطلاعاتی که توسط سولومون کولبک و ریچارد لایبلر در سال ۱۹۵۱ معرفی شد، میزان واگرایی یک توزیع احتمال از یک توزیع مرجع را کمیسازی میکند و از ۰ (توزیعهای یکسان) تا بینهایت متغیر است. این معیار در نظریه اطلاعات، یادگیری ماشین و تصمیمگیری با چارچوبهای احتمالی، بنیادی است.
مطالعهٔ کامل روش
برای خواندن این بخش با حساب رایگان وارد شوید.
نقشهٔ روش
همسایگی روشهای مرتبط — برای کاوش، یک گره را برگزینید.
منابع
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
نحوهٔ استناد به این صفحه
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/fa/decision-making/kullback-leibler-divergence
کدام روش؟
این روش را در کنار نزدیکترین روشهای خویشاوندش بگذارید و آنها را کنار هم بخوانید — کتابخانه کتابها را روی میز میگشاید؛ انتخاب با شماست.
- فاصله هلینگرتصمیمگیری↔ مقایسه
- واگرایی جنسن-شنونتصمیمگیری↔ مقایسه
ارجاعشده در
در این صفحه مشکلی دیدید؟ گزارش دهید یا اصلاحی پیشنهاد کنید →