Process / pipeline

Szövegdeduplikáció — Közel-duplikátumok észlelése

A szövegdeduplikáció egy nagy szöveggyűjtemények minőségét javító folyamat, amely azonosítja és eltávolítja az azonos és közel azonos dokumentumokat nagy szöveggyűjteményekből. Andrei Broder 1997-es hasonlósági elméletére épülve széles körben használják adathalmazok minőségének javítására gépi tanulási modellek képzéséhez, keresőmotorok indexeléséhez és bármely olyan további természetesnyelv-feldolgozási (NLP) feladathoz, amely redundanciamentes corpusra támaszkodik.

Megnyitás itt: MethodMindHamarosanVideóHamarosanDownload slides

A teljes módszer elolvasása

Csak tagoknak

Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.

Bejelentkezés

Method map

The neighbourhood of related methods — select a node to explore.

Források

  1. Broder, A.Z. (1997). On the Resemblance and Containment of Documents. Compression and Complexity of SEQUENCES. link
  2. Lee, K. et al. (2022). Deduplicating Training Data Makes Language Models Better. ACL 2022. link

Hogyan hivatkozzon erre az oldalra

ScholarGate. (2026, June 1). Text Deduplication (Near-Duplicate Detection). ScholarGate. https://scholargate.app/hu/text-mining/text-deduplication

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side
ScholarGateText Deduplication (Text Deduplication (Near-Duplicate Detection)). Letöltve 2026-06-15, forrás: https://scholargate.app/hu/text-mining/text-deduplication · Adatkészlet: https://doi.org/10.5281/zenodo.20539026