Model Markov Tersembunyi

Model Markov tersembunyi menggabungkan rantai Markov yang tidak teramati dengan observasi yang distribusinya bergantung pada keadaan tersembunyi saat ini, sehingga dinamika laten harus disimpulkan secara tidak langsung dari data.

Definition

Model Markov tersembunyi adalah proses stokastik di mana rantai Markov waktu diskrit yang tidak teramati mengatur rezim, dan pada setiap waktu observasi ditarik dari distribusi yang ditentukan oleh keadaan tersembunyi saat ini, sehingga observasi secara kondisional independen diberikan jalur tersembunyi.

Scope

Topik ini mencakup struktur stokastik ganda dari rantai Markov laten dengan emisi yang bergantung pada keadaan, algoritma maju-mundur (forward-backward) untuk penyaringan dan penghalusan, algoritma Viterbi untuk jalur keadaan yang paling mungkin, estimasi parameter dengan prosedur ekspektasi-maksimisasi Baum-Welch, serta identifikasi dan teori asimtotik model.

Core questions

• Bagaimana rantai Markov yang tidak teramati menghasilkan urutan yang diamati?
• Bagaimana probabilitas keadaan tersembunyi dihitung berdasarkan observasi?
• Bagaimana urutan keadaan tersembunyi tunggal yang paling mungkin ditemukan?
• Bagaimana parameter transisi dan emisi model diestimasi dari data?

Key theories

Algoritma maju-mundur (Forward-backward algorithm)

Lintasan maju dan mundur rekursif menghitung kemungkinan observasi dan distribusi posterior setiap keadaan tersembunyi secara efisien, memungkinkan penyaringan dan penghalusan dalam waktu linear terhadap panjang urutan.

Estimasi parameter Baum-Welch

Prosedur ekspektasi-maksimisasi bergantian antara menghitung okupansi keadaan dan transisi yang diharapkan di bawah parameter saat ini dan mengestimasi ulang distribusi transisi dan emisi, meningkatkan kemungkinan pada setiap langkah.

Clinical relevance

Model Markov tersembunyi sangat penting dalam pengenalan ucapan dan tulisan tangan, biologi komputasi termasuk penemuan gen dan penyelarasan sekuens, model pengalihan rezim keuangan, dan pemrosesan bahasa alami, di mana pun sinyal yang diamati didorong oleh urutan keadaan diskrit yang tidak teramati.

History

Dasar-dasar statistik diletakkan oleh Baum dan Petrie pada tahun 1960-an, algoritma Viterbi untuk dekode optimal muncul pada tahun 1967 dalam konteks teori pengkodean, dan tutorial Rabiner tahun 1989 mempopulerkan kerangka kerja untuk pengenalan ucapan, setelah itu model Markov tersembunyi menjadi standar di seluruh pemrosesan sinyal dan bioinformatika.

Key figures

• Leonard Baum
• Ted Petrie
• Andrew Viterbi
• Lawrence Rabiner

Seminal works

• cappe2005
• rabiner1989

Frequently asked questions

Apa yang tersembunyi dalam model Markov tersembunyi?

Rantai Markov keadaan yang mendasari tidak diamati secara langsung; hanya keluaran yang distribusinya bergantung pada keadaan saat ini yang terlihat, sehingga urutan keadaan harus disimpulkan dari observasi.

Apa yang dihitung oleh algoritma Viterbi?

Algoritma ini menemukan urutan keadaan tersembunyi tunggal yang paling mungkin berdasarkan observasi, menggunakan pemrograman dinamis untuk menghindari enumerasi jalur yang jumlahnya eksponensial.