MCDMInformation-theoretic divergence
쿨백-라이블러 발산
쿨백-라이블러 발산은 상대 엔트로피 또는 정보 발산이라고도 하며, 두 확률 분포 간의 비대칭적 차이를 측정합니다. 1951년 솔로몬 쿨백과 리처드 라이블러가 소개한 이 정보 이론적 척도는 하나의 확률 분포가 참조 분포에서 얼마나 벗어나는지를 정량화하며, 0(동일한 분포)에서 무한대까지의 값을 가집니다. 이는 정보 이론, 기계 학습, 확률적 프레임워크를 사용한 의사 결정에서 기초적인 역할을 합니다.
방법 전문 읽기
회원 전용
로그인무료 계정으로 로그인하면 이 섹션을 읽을 수 있습니다.
방법 지도
관련 방법들로 이루어진 인접 영역 — 노드를 선택해 살펴보세요.
출처
- Kullback, S., & Leibler, R. A. (1951). On information and sufficiency. Annals of Mathematical Statistics, 22(1), 79-86. DOI: 10.1214/aoms/1177729694 ↗
- Cover, T. M., & Thomas, J. A. (1991). Elements of Information Theory. Wiley-Interscience. DOI: 10.1002/0471200611 ↗
이 페이지 인용 방법
ScholarGate. (2026, June 3). Kullback-Leibler Information Divergence. ScholarGate. https://scholargate.app/ko/decision-making/kullback-leibler-divergence
어떤 방법일까요?
이 방법을 가장 가까운 동류의 방법들과 나란히 놓고 비교해 보세요 — 라이브러리는 책을 펼쳐 놓을 뿐, 선택은 여러분의 몫입니다.
나란히 비교하기 →