Machine learningMachine learning

Αυτο-εποπτευόμενη Μεταφορά Μάθησης

Η αυτο-εποπτευόμενη μεταφορά μάθησης συνδυάζει δύο ισχυρά παραδείγματα: ένα μοντέλο μαθαίνει πρώτα πλούσιες αναπαραστάσεις από μη επισημασμένα δεδομένα χρησιμοποιώντας αυτο-εποπτευόμενες εργασίες προετοιμασίας (pretext tasks), στη συνέχεια αυτές οι μαθημένες αναπαραστάσεις μεταφέρονται και βελτιστοποιούνται (fine-tuned) σε μια εργασία κατάντησης (downstream task) με περιορισμένα επισημασμένα δεδομένα. Αυτή η προσέγγιση υποστηρίζει συστήματα ορόσημα όπως το BERT στην Επεξεργασία Φυσικής Γλώσσας (NLP) και τα SimCLR και DINO στην όραση υπολογιστών, μειώνοντας δραματικά τις απαιτήσεις για επισημασμένα δεδομένα σε πολλούς τομείς.

Άνοιγμα στο MethodMindΣύντομαΒίντεοΣύντομαDownload slides

Διαβάστε ολόκληρη τη μέθοδο

Μόνο για μέλη

Συνδεθείτε με δωρεάν λογαριασμό για να διαβάσετε αυτή την ενότητα.

Σύνδεση

Method map

The neighbourhood of related methods — select a node to explore.

Πηγές

  1. Chen, T., Kornblith, S., Norouzi, M., & Hinton, G. (2020). A simple framework for contrastive learning of visual representations. In Proceedings of the 37th International Conference on Machine Learning (ICML), PMLR 119, 1597–1607. link
  2. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423

Πώς να παραπέμψετε σε αυτή τη σελίδα

ScholarGate. (2026, June 3). Self-supervised Pre-training for Transfer Learning. ScholarGate. https://scholargate.app/el/machine-learning/self-supervised-transfer-learning

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side
ScholarGateSelf-supervised Transfer learning (Self-supervised Pre-training for Transfer Learning). Ανακτήθηκε στις 2026-06-15 από https://scholargate.app/el/machine-learning/self-supervised-transfer-learning · Σύνολο δεδομένων: https://doi.org/10.5281/zenodo.20539026