Fundamentos de la Lingüística Computacional
La base matemática y metodológica de la lingüística computacional: gramáticas formales, autómatas, técnicas de estados finitos, modelos de lenguaje probabilísticos y las prácticas de evaluación que permiten comparar sistemas rigurosamente.
Definition
Los fundamentos de la lingüística computacional son el estudio de los elementos primitivos formales, algorítmicos y estadísticos utilizados para representar y procesar el lenguaje natural mediante máquinas.
Scope
Esta área abarca las abstracciones sobre las que se construyen los tratamientos computacionales del lenguaje. Incluye la jerarquía de Chomsky de lenguajes formales y los autómatas que los reconocen, las expresiones regulares y los transductores de estados finitos como herramientas prácticas para la tokenización y la morfología, los modelos de lenguaje n-grama y probabilísticos, y la maquinaria experimental —corpus, anotación, divisiones de entrenamiento/prueba y métricas de evaluación— que sustenta el trabajo empírico. Excluye aplicaciones específicas posteriores y el análisis sintáctico profundo, que se tratan en sus propias áreas.
Sub-topics
Core questions
- ¿Qué clases de lenguajes formales existen y qué autómatas los reconocen?
- ¿Cómo pueden los métodos de estados finitos modelar eficientemente la tokenización, la ortografía y la morfología?
- ¿Cómo se asignan probabilidades a secuencias de palabras y por qué esto es útil?
- ¿Cómo deben evaluarse los sistemas de procesamiento del lenguaje para que los resultados sean comparables y reproducibles?
Key concepts
- jerarquía de Chomsky
- autómata de estados finitos
- expresión regular
- gramática libre de contexto
- modelo n-grama
- suavizado (smoothing)
- perplejidad
- corpus y anotación
Key theories
- Jerarquía de Chomsky
- Una jerarquía de contención de clases de lenguajes formales (regular, libre de contexto, sensible al contexto, recursivamente enumerable), cada una ligada a una clase de gramática y una máquina abstracta, que enmarca cuánta potencia computacional se necesita para describir fenómenos del lenguaje natural.
- Modelado probabilístico del lenguaje
- Tratar el lenguaje como un proceso estocástico y estimar la probabilidad de secuencias de palabras, clásicamente mediante modelos n-grama con suavizado, proporcionando una base para el reconocimiento de voz, la corrección ortográfica y la generación.
History
La lingüística computacional heredó su núcleo formal del trabajo de la década de 1950 sobre la teoría del lenguaje formal (Chomsky) y la teoría de la información (Shannon), que en conjunto sugirieron tanto gramáticas simbólicas como modelos probabilísticos del lenguaje. Los métodos de estados finitos maduraron a lo largo de la década de 1980 como herramientas eficientes para la morfología y la fonología, mientras que la revolución estadística de la década de 1990, documentada por Manning y Schütze, convirtió el modelado probabilístico basado en corpus en el paradigma empírico dominante.
Debates
- Gramáticas simbólicas versus modelos estadísticos
- Si el lenguaje natural se captura mejor mediante reglas formales construidas manualmente o mediante distribuciones de probabilidad estimadas a partir de datos; el campo ha convergido en gran medida en enfoques híbridos y basados en datos, manteniendo las gramáticas formales como herramientas analíticas.
Key figures
- Noam Chomsky
- Claude Shannon
- Daniel Jurafsky
- James H. Martin
- Christopher Manning
Related topics
Seminal works
- chomsky1956
- manning1999
- jurafsky2025
Frequently asked questions
- ¿Por qué los lingüistas computacionales se interesan por la jerarquía de Chomsky?
- Indica la maquinaria computacional mínima que requiere un fenómeno: los patrones regulares pueden ser manejados por herramientas rápidas de estados finitos, mientras que fenómenos como las cláusulas anidadas necesitan al menos una potencia libre de contexto. Elegir el nivel adecuado mantiene los sistemas adecuados y eficientes.
- ¿Es el modelado del lenguaje lo mismo que un modelo de lenguaje grande?
- Comparten la misma tarea central —asignar probabilidades a secuencias de palabras—, pero los modelos de lenguaje clásicos eran contadores de n-gramas, mientras que los modelos de lenguaje grandes modernos utilizan redes neuronales. La idea fundamental es idéntica; el método de estimación difiere.