Classification de texte
La classification de texte attribue automatiquement des documents à une ou plusieurs catégories prédéfinées à l'aide de modèles appris à partir d'exemples étiquetés.
Definition
La classification de texte est la tâche consistant à attribuer un document à une ou plusieurs catégories d'un ensemble prédéfini, réalisée par un modèle entraîné sur des documents dont les étiquettes de catégorie sont connues, en utilisant la représentation du document basée sur les termes comme caractéristiques d'entrée.
Scope
Ce sujet couvre la catégorisation supervisée de texte : la formulation du problème en tant que classification à étiquette unique, multi-étiquettes ou hiérarchique ; les apprenants représentatifs appliqués au texte tels que le classifieur bayésien naïf, la méthode centroïde de Rocchio, les k plus proches voisins et les machines à vecteurs de support ; la sélection de caractéristiques pour le texte de haute dimensionnalité ; et l'évaluation des classifieurs. Il traite de la classification telle qu'utilisée dans les contextes de récupération d'information comme le filtrage et le routage, s'appuyant sur l'apprentissage automatique mais se concentrant sur les considérations spécifiques au texte plutôt que sur la théorie générale des classifieurs.
Core questions
- Comment la catégorisation de texte est-elle formulée en tant que classification à étiquette unique, multi-étiquettes ou hiérarchique ?
- Quels algorithmes d'apprentissage fonctionnent bien sur des caractéristiques textuelles de haute dimensionnalité et éparses ?
- Comment les caractéristiques informatives sont-elles sélectionnées à partir d'un grand vocabulaire ?
- Pourquoi les machines à vecteurs de support sont-elles particulièrement bien adaptées au texte ?
- Comment les classifieurs de texte sont-ils évalués, et comment le déséquilibre des classes est-il géré ?
Key concepts
- catégorisation supervisée
- classification à étiquette unique vs. multi-étiquettes
- classifieur bayésien naïf
- classification de Rocchio / centroïde
- k plus proches voisins
- machines à vecteurs de support
- sélection de caractéristiques
- évaluation des classifieurs (précision, rappel, F1)
Key theories
- Classification de texte par classifieur bayésien naïf
- La modélisation des termes de chaque document comme conditionnellement indépendants étant donné la classe produit un classifieur probabiliste simple et rapide qui, malgré sa forte hypothèse d'indépendance, est compétitif sur de nombreuses tâches textuelles.
- Machines à vecteurs de support pour le texte
- Parce que le texte possède de nombreuses caractéristiques éparses et majoritairement pertinentes et que les classes sont souvent linéairement séparables dans cet espace, les machines à vecteurs de support à grande marge atteignent une grande précision de catégorisation de texte avec peu d'ingénierie de caractéristiques.
Clinical relevance
La classification de texte est à la base du filtrage des spams, de la modération de contenu, du routage et de l'étiquetage thématique, de l'analyse des sentiments, et de la catégorisation qui soutient la recherche et le filtrage à facettes. Dans le domaine de la récupération d'information, elle sous-tend les systèmes de filtrage et de routage de documents qui fournissent des documents correspondant à des besoins d'information permanents.
History
La catégorisation automatique de texte a débuté avec des systèmes de règles construits manuellement et s'est orientée vers l'apprentissage automatique dans les années 1990. La démonstration de Joachims en 1998 selon laquelle les machines à vecteurs de support excellent sur le texte, et l'enquête de Sebastiani en 2002, ont établi le paradigme supervisé moderne. La même tâche sert désormais de référence standard pour l'apprentissage de représentations et les modèles de texte neuronaux.
Key figures
- Fabrizio Sebastiani
- Thorsten Joachims
- Yiming Yang
Related topics
Seminal works
- sebastiani2002
- joachims1998
- manning2008
Frequently asked questions
- Pourquoi le classifieur bayésien naïf fonctionne-t-il bien malgré son hypothèse d'indépendance irréaliste ?
- Même si les termes ne sont pas réellement indépendants, la décision du classifieur bayésien naïf aboutit souvent à la bonne classe car l'hypothèse déforme principalement les estimations de probabilité plutôt que l'ordre relatif des classes. Il est également rapide et robuste avec des données limitées, ce qui en fait une base de référence solide.
- Quelle est la différence entre la classification à étiquette unique et la classification multi-étiquettes ?
- La classification à étiquette unique attribue chaque document à une seule catégorie, tandis que la classification multi-étiquettes permet à un document d'appartenir à plusieurs catégories à la fois, comme lorsqu'un article est étiqueté avec plusieurs sujets. Les tâches multi-étiquettes nécessitent des méthodes et des métriques qui gèrent les étiquettes qui se chevauchent.