Semi-supervised Multilayer Perceptron (SSL-MLP)

Das Sammeln gelabelter Daten ist teuer; ungelabelte Daten sind typischerweise reichlich vorhanden. Ein semi-überwachtes MLP schlägt die Brücke, indem es zunächst eine kompakte interne Repräsentation aus allen verfügbaren Daten lernt und diese Repräsentation dann mithilfe der gelabelten Beispiele als Anker schärft. Die zentrale Erkenntnis ist, dass die geometrische Struktur der vollständigen Datenverteilung einschränkt, welche Entscheidungsgrenzen plausibel sind, sodass selbst ungelabelte Punkte das Netz zu besser generalisierbaren Lösungen führen. Methoden wie Pseudo-Labeling lassen das Modell sich selbst lehren, indem es iterativ seine Vorhersagen mit der höchsten Konfidenz auf ungelabelten Daten als weiche Ziele für weiteres Training behandelt.