Ensemble Transfer Learning (Aggregation of Multiple Pre-trained Models)

L'apprentissage par transfert permet d'emprunter des connaissances d'un grand ensemble de données pour résoudre un problème connexe mais plus petit. L'apprentissage par transfert en ensemble va plus loin : au lieu de s'appuyer sur un seul modèle emprunté, il entraîne plusieurs variantes — en utilisant différentes architectures, différentes graines aléatoires ou différentes stratégies d'affinage — et combine leurs sorties. Les désaccords entre les modèles révèlent où l'incertitude est la plus élevée, et leur moyenne annule les erreurs individuelles, tout comme un panel d'experts parvient à un verdict plus fiable que n'importe quel expert seul.