Out-of-Distribution-Erkennung

Out-of-Distribution (OOD)-Erkennung ist eine Sammlung von Techniken, die identifizieren, wann ein eingesetztes Machine-Learning-Modell Eingaben erhält, die sich signifikant von seiner Trainingsdatenverteilung unterscheiden. Dieses Problem wurde erstmals 2017 von Hendrycks und Gimpel formalisiert. Diese Methoden ermöglichen es Modellen, unbekannte Eingaben zu kennzeichnen, anstatt stillschweigend unzuverlässige Vorhersagen zu treffen, was sie zu einer Grundlage für vertrauenswürdige und sichere KI-Implementierungen in Hochrisikobereichen macht.