Definicja
Stronniczość jest systematycznym odchyleniem prowadzącym do zniekształcenia wyników analizy, modelu lub procesu podejmowania decyzji.
Proste wyjaśnienie
Model lub analiza mogą wyglądać na poprawne technicznie, a mimo to systematycznie prowadzić do mylących albo niesprawiedliwych wyników, ponieważ dane lub sposób ich wykorzystania nie odzwierciedlają właściwie badanej sytuacji.
Dlaczego to ważne
Stronniczość może prowadzić do błędnych decyzji, nierównego traktowania, dyskryminacji oraz utraty zaufania do modeli analitycznych.
Granice pojęcia
Stronniczość nie wynika wyłącznie z działania algorytmu. Może być obecna w sposobie pomiaru, doborze reprezentowanych grup, zbieraniu danych, określeniu celu lub interpretacji wyników. Nie każda różnica pomiędzy grupami jest dowodem stronniczości, ale niewyjaśnione systematyczne różnice wymagają analizy.
Perspektywa praktyczna
Ryzyko stronniczości należy oceniać podczas definiowania problemu, zbierania danych, projektowania i walidacji modelu, a następnie monitorować po wdrożeniu. Model może być średnio bardzo dokładny, a jednocześnie działać źle dla istotnej grupy przypadków.