Hồ sơ bằng chứng phương pháp

Self-supervised Transformer

A self-supervised Transformer is a Transformer network pretrained using automatically constructed supervision signals — such as masked token prediction or next-sentence prediction — rather than human-annotated labels. The resulting representations are then fine-tuned or probed on downstream tasks. BERT, GPT, and ViT (Vision Transformer in masked-image modeling mode) are the most widely known instantiations of this paradigm.

Sources recorded, not reviewed

Hồ sơ nguồn

Các trích dẫn được sao chép nguyên văn từ hồ sơ nguồn của phương pháp. Không có xác minh cấp độ yêu cầu nào được suy ra từ chúng.

Self-supervised Transformer (Pretraining with Self-generated Supervision)

Hồ sơ phương pháp phân loại · ml-model / deep-learning

Mở phương pháp đầy đủ

Các yêu cầu được tuyển chọn

Các yêu cầu được lưu trữ trong sổ cái bằng chứng, mỗi yêu cầu có đánh giá riêng.

Chưa có yêu cầu được tuyển chọn

Chế độ xem này không tạo ra đánh giá yêu cầu khi sổ cái không có.

Các phương pháp liên quan

Được tạo từ biểu đồ phương pháp và hiển thị dưới dạng các mối quan hệ được đề xuất bởi máy — không có yêu cầu bằng chứng nào được suy ra.

Taxonomic bucketBERT-based Classificationmachine-suggested · Relational suggestion, not evidence.Taxonomic bucketFine-Tuned Transformermachine-suggested · Relational suggestion, not evidence.Taxonomic bucketRoBERTa-based Classificationmachine-suggested · Relational suggestion, not evidence.Taxonomic bucketSelf-supervised convolutional neural networkmachine-suggested · Relational suggestion, not evidence.Taxonomic bucketSentence Embeddingsmachine-suggested · Relational suggestion, not evidence.