MCDMInformation-theoretic divergence

Kullback-Leibler diverģence

Kullback-Leibler diverģence, pazīstama arī kā relatīvā entropija vai informācijas diverģence, mēra asimetrisko atšķirību starp diviem varbūtību sadalījumiem. Šo informācijas teorētisko mērvienību, ko 1951. gadā ieviesa Salomons Kullbaks un Ričards Leiblers, kvantificē, cik viens varbūtību sadalījums atšķiras no atsauces sadalījuma, un tās vērtība svārstās no 0 (identiski sadalījumi) līdz bezgalībai. Tā ir fundamentāla informācijas teorijā, mašīnmācīšanā un lēmumu pieņemšanā ar probabilistiskiem ietvariem.

Pielietot ar DecisionMindDrīzumāVideoDrīzumāDownload slides

Lasīt pilno metodes aprakstu

Tikai dalībniekiem

Piesakieties ar bezmaksas kontu, lai lasītu šo sadaļu.

Pieteikties

Method map

The neighbourhood of related methods — select a node to explore.

Avoti

  1. Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694
  2. Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611

Kā citēt šo lapu

ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/lv/decision-making/kullback-leibler-divergence

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Uz to atsaucas

ScholarGateKullback-Leibler Divergence (Kullback-Leibler Information Divergence). Izgūts 2026-06-15 no https://scholargate.app/lv/decision-making/kullback-leibler-divergence · Datu kopa: https://doi.org/10.5281/zenodo.20539026