Aprendizaje por transferencia con clasificación basada en BERT

El aprendizaje por transferencia con clasificación basada en BERT adapta un gran modelo de lenguaje transformador, pre-entrenado en corpus masivos de texto, a una tarea de clasificación objetivo mediante el ajuste fino de sus pesos en ejemplos etiquetados. Las representaciones pre-entrenadas codifican un rico conocimiento sintáctico y semántico, permitiendo una alta precisión incluso cuando el conjunto de datos etiquetado es pequeño.