Text Normalization
Text normalization is an NLP preprocessing pipeline that converts noisy, abbreviated, or misspelled text — such as SMS messages, social-media posts, and OCR output — into a clean, standardised form. It is a prerequisite step for virtually every downstream NLP task, ensuring that inconsistent surface forms do not degrade tokenisation, parsing, or classification. The method gained systematic academic treatment through Baldwin and Li (2015) and Sproat and Jaitly (2017).
Zdrojový záznam
Citácie skopírované doslovne zo zdrojového záznamu metódy. Nevyplýva z nich žiadne overenie na úrovni tvrdenia.
- Baldwin, T. & Li, Y. (2015). An In-depth Analysis of the Effect of Text Normalization in Twitter. NAACL-HLT 2015. · URL
- Sproat, R. & Jaitly, N. (2017). RNN Approaches to Text Normalization: A Challenge. arXiv:1611.00068. · URL
Spracované tvrdenia
Tvrdenia uložené v registri dôkazov, každé s vlastným hodnotením.
Tento pohľad nevymýšľa hodnotenie tvrdenia, ak register žiadne nemá.
Súvisiace metódy
Vygenerované z grafu metód a zobrazené ako vzťahy navrhnuté strojom – nevyplýva z nich žiadne tvrdenie o dôkaze.