Modèles de Markov cachés

Un modèle de Markov caché associe une chaîne de Markov inobservée à des observations dont la distribution dépend de l'état caché actuel, de sorte que la dynamique latente doit être inférée indirectement à partir des données.

Definition

Un modèle de Markov caché est un processus stochastique dans lequel une chaîne de Markov à temps discret inobservée régit le régime, et à chaque instant, une observation est tirée d'une distribution déterminée par l'état caché actuel, de sorte que les observations sont conditionnellement indépendantes étant donné le chemin caché.

Scope

Ce sujet aborde la structure doublement stochastique d'une chaîne de Markov latente avec des émissions dépendant de l'état, l'algorithme forward-backward pour le filtrage et le lissage, l'algorithme de Viterbi pour le chemin d'états le plus probable, l'estimation des paramètres par la procédure d'espérance-maximisation de Baum-Welch, ainsi que l'identifiabilité et la théorie asymptotique du modèle.

Core questions

• Comment une chaîne de Markov inobservée génère-t-elle la séquence observée ?
• Comment les probabilités des états cachés sont-elles calculées à partir des observations ?
• Comment la séquence unique la plus probable d'états cachés est-elle trouvée ?
• Comment les paramètres de transition et d'émission du modèle sont-ils estimés à partir des données ?

Key theories

Algorithme forward-backward

Des passes récursives avant et arrière calculent efficacement la vraisemblance des observations et la distribution a posteriori de chaque état caché, permettant le filtrage et le lissage en un temps linéaire par rapport à la longueur de la séquence.

Estimation des paramètres de Baum-Welch

Une procédure d'espérance-maximisation alterne entre le calcul des fréquences d'occupation et des transitions d'état attendues sous les paramètres actuels et la réestimation des distributions de transition et d'émission, augmentant la vraisemblance à chaque étape.

Clinical relevance

Les modèles de Markov cachés jouent un rôle central dans la reconnaissance vocale et de l'écriture manuscrite, la biologie computationnelle, y compris la détection de gènes et l'alignement de séquences, les modèles financiers à changement de régime, et le traitement automatique du langage naturel, partout où un signal observé est piloté par une séquence inobservée d'états discrets.

History

Les fondements statistiques ont été posés par Baum et Petrie dans les années 1960, l'algorithme de Viterbi pour le décodage optimal est apparu en 1967 dans un contexte de théorie du codage, et le tutoriel de Rabiner de 1989 a popularisé le cadre pour la reconnaissance vocale, après quoi les modèles de Markov cachés sont devenus la norme dans le traitement du signal et la bioinformatique.

Key figures

• Leonard Baum
• Ted Petrie
• Andrew Viterbi
• Lawrence Rabiner

Seminal works

• cappe2005
• rabiner1989

Frequently asked questions

Qu'est-ce qui est caché dans un modèle de Markov caché ?

La chaîne de Markov sous-jacente des états n'est pas observée directement ; seules les sorties dont la distribution dépend de l'état actuel sont visibles, de sorte que la séquence d'états doit être inférée à partir des observations.

Que calcule l'algorithme de Viterbi ?

Il trouve la séquence unique la plus probable d'états cachés étant donné les observations, en utilisant la programmation dynamique pour éviter d'énumérer un nombre exponentiel de chemins.