Fairness-Aware Machine Learning

Fairness-Aware Machine Learning ist eine Technikfamilie, die prädiktive Modelle so trainiert, einschränkt oder nachbearbeitet, dass ihre Fehlerraten oder Ergebnisse über geschützte demografische Gruppen wie Rasse, Geschlecht oder Alter hinweg gerecht sind. Der grundlegende Rahmen der „equalized odds“ und „equality of opportunity“ wurde von Moritz Hardt, Eric Price und Nati Srebro in ihrer wegweisenden NeurIPS-Arbeit von 2016 formalisiert und legte rigorose statistische Kriterien für diskriminierungsfreie Klassifikatoren fest.