Definicja
Wyjaśnialność jest właściwością modelu analitycznego lub systemu sztucznej inteligencji określającą, w jakim stopniu człowiek może zrozumieć, jak lub dlaczego model wygenerował określony wynik albo rekomendację.
Proste wyjaśnienie
Pomaga odpowiedzieć na pytanie: Dlaczego model wygenerował właśnie taki wynik?
Dlaczego to ważne
Zrozumiałe wyjaśnienie wspiera właściwy poziom zaufania, kontrolę i odpowiedzialność oraz pomaga wykrywać błędy, stronniczość i niewłaściwe założenia.
Granice pojęcia
Wyjaśnialność nie wymaga ujawnienia każdego wewnętrznego obliczenia, a samo wyjaśnienie nie dowodzi poprawności wyniku. Oznacza możliwość przedstawienia istotnych czynników, sposobu działania lub przesłanek na poziomie odpowiednim dla osoby korzystającej z wyniku albo go oceniającej.
Perspektywa praktyczna
Im większy wpływ modelu na ludzi, ich prawa, bezpieczeństwo lub ważne decyzje organizacji, tym większe znaczenie ma wartościowe wyjaśnienie. Powinno ono umożliwiać rzetelną ocenę, a nie jedynie brzmieć przekonująco.