Self-supervised Transformer
A self-supervised Transformer is a Transformer network pretrained using automatically constructed supervision signals — such as masked token prediction or next-sentence prediction — rather than human-annotated labels. The resulting representations are then fine-tuned or probed on downstream tasks. BERT, GPT, and ViT (Vision Transformer in masked-image modeling mode) are the most widely known instantiations of this paradigm.
Исходная запись
Цитирование скопировано дословно из исходной записи метода. На его основании не делается никаких выводов о проверке на уровне утверждения.
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. · DOI 10.18653/v1/N19-1423
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems, 30. · URL
Курируемые утверждения
Утверждения сохранены в реестре доказательств, каждое со своей оценкой.
Этот вид не создает оценку утверждения, если в реестре ее нет.
Связанные методы
Сгенерировано из графа методов и показано как предложенные машиной связи — никаких выводов об утверждениях доказательств не делается.