Text Normalization
Text normalization is an NLP preprocessing pipeline that converts noisy, abbreviated, or misspelled text — such as SMS messages, social-media posts, and OCR output — into a clean, standardised form. It is a prerequisite step for virtually every downstream NLP task, ensuring that inconsistent surface forms do not degrade tokenisation, parsing, or classification. The method gained systematic academic treatment through Baldwin and Li (2015) and Sproat and Jaitly (2017).
Zapis źródłowy
Cytaty skopiowane dosłownie z zapisu źródłowego metody. Nie należy z nich wywnioskować weryfikacji na poziomie twierdzenia.
- Baldwin, T. & Li, Y. (2015). An In-depth Analysis of the Effect of Text Normalization in Twitter. NAACL-HLT 2015. · URL
- Sproat, R. & Jaitly, N. (2017). RNN Approaches to Text Normalization: A Challenge. arXiv:1611.00068. · URL
Wyselekcjonowane twierdzenia
Twierdzenia utrwalone w rejestrze dowodowym, każde z własną oceną.
Ten widok nie tworzy oceny twierdzenia, jeśli rejestr jej nie zawiera.
Powiązane metody
Wygenerowane z grafu metod i pokazane jako sugerowane przez maszynę powiązania — nie należy z nich wywnioskować twierdzenia dowodowego.