Self-supervised Few-shot Learning (SSL-FSL)

Представьте, что вы учите ребенка распознавать объекты, сначала позволяя ему наблюдать бесчисленные неразмеченные изображения и развивать богатый внутренний словарь визуальных концепций. Когда вы затем показываете ему всего пять картинок нового животного, он может надежно его идентифицировать, потому что он уже понимает формы, текстуры и контекст. Обучение с самоконтролем в режиме малого числа примеров воспроизводит этот процесс: нейронная сеть сначала строит выразительные представления из неразмеченных данных, используя предварительные задачи (например, предсказание поворотов или контрастное сопоставление), а затем быстро адаптируется к новой задаче, используя лишь крошечный набор данных поддержки с разметкой.