ScholarGate
المساعد
Process / pipeline

إزالة تكرار النصوص — اكتشاف النسخ المتطابقة تقريبًا

إزالة تكرار النصوص هي خط أنابيب لجودة المدونات يحدد ويزيل المستندات المتطابقة تمامًا والمتطابقة تقريبًا من مجموعات النصوص الكبيرة. استنادًا إلى نظرية التشابه لأندريه برودر عام 1997، تُستخدم على نطاق واسع لتحسين جودة مجموعات البيانات لتدريب نماذج التعلم الآلي، وفهرسة محركات البحث، وأي مهمة معالجة لغات طبيعية لاحقة تفترض وجود مدونة غير زائدة عن الحاجة.

افتح في MethodMindقريبًافيديوقريبًاDownload slides

اقرأ الطريقة كاملة

للأعضاء فقط

سجّل الدخول بحساب مجاني لقراءة هذا القسم.

تسجيل الدخول

Method map

The neighbourhood of related methods — select a node to explore.

المصادر

  1. Broder, A.Z. (1997). On the Resemblance and Containment of Documents. Compression and Complexity of SEQUENCES. link
  2. Lee, K. et al. (2022). Deduplicating Training Data Makes Language Models Better. ACL 2022. link

كيف تستشهد بهذه الصفحة

ScholarGate. (2026, June 1). Text Deduplication (Near-Duplicate Detection). ScholarGate. https://scholargate.app/ar/text-mining/text-deduplication

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side
ScholarGateText Deduplication (Text Deduplication (Near-Duplicate Detection)). استُرجع بتاريخ 2026-06-15 من https://scholargate.app/ar/text-mining/text-deduplication · مجموعة البيانات: https://doi.org/10.5281/zenodo.20539026