Modelagem de tópicos autossupervisionada

A modelagem de tópicos autossupervisionada combina a descoberta de tópicos interpretáveis dos modelos de tópicos clássicos com objetivos de aprendizado autossupervisionado — como perda contrastiva, modelagem de linguagem mascarada ou reconstrução — para aprender tópicos coerentes e semanticamente ricos a partir de texto não rotulado, sem anotações humanas. Ela une modelos de tópicos probabilísticos clássicos e aprendizado de representação moderno, resultando em tópicos mais alinhados com o significado contextual.