Text Normalization
Text normalization is an NLP preprocessing pipeline that converts noisy, abbreviated, or misspelled text — such as SMS messages, social-media posts, and OCR output — into a clean, standardised form. It is a prerequisite step for virtually every downstream NLP task, ensuring that inconsistent surface forms do not degrade tokenisation, parsing, or classification. The method gained systematic academic treatment through Baldwin and Li (2015) and Sproat and Jaitly (2017).
Forrásrekord
A hivatkozások szó szerint a módszer forrásrekordjából kerültek átvételre. Ezekből nem következtethető ki állítás-szintű ellenőrzés.
- Baldwin, T. & Li, Y. (2015). An In-depth Analysis of the Effect of Text Normalization in Twitter. NAACL-HLT 2015. · URL
- Sproat, R. & Jaitly, N. (2017). RNN Approaches to Text Normalization: A Challenge. arXiv:1611.00068. · URL
Kurált állítások
Az állítások a bizonyíték-jegyzőkönyvben tárolódtak, mindegyik saját értékeléssel.
Ez a nézet nem hoz létre állítás-értékelést, ha a jegyzőkönyvben nincs.
Kapcsolódó módszerek
A módszergráfból generálva és gépi javaslatú kapcsolatokként jelenítve meg – nem következtethető ki bizonyíték-állítás.