Transfer Learning with Sentence Embeddings

Transfer Learning with Sentence Embeddings использует большой предварительно обученный энкодер — такой как Sentence-BERT или Universal Sentence Encoder — который уже кодирует общие знания языка в векторы фиксированной длины, и адаптирует его к новой задаче или домену с небольшим количеством дополнительных размеченных данных. Предварительно обученные представления дают преимущество, которое часто превосходит специализированные модели, обученные с нуля на скромных корпусах.