Definition
Erklärbarkeit ist eine Eigenschaft eines analytischen Modells oder Systems der Künstlichen Intelligenz und beschreibt, in welchem Maß Menschen verstehen können, wie oder warum ein bestimmtes Ergebnis oder eine Empfehlung entstanden ist.
Einfach erklärt
Sie hilft, die Frage zu beantworten: Warum hat das Modell genau dieses Ergebnis erzeugt?
Warum es wichtig ist
Eine verständliche Erklärung unterstützt angemessenes Vertrauen, Überprüfung und Verantwortlichkeit und hilft, Fehler, Bias und ungeeignete Annahmen zu erkennen.
Begriffliche Abgrenzung
Erklärbarkeit verlangt nicht, jede interne Berechnung offenzulegen, und eine Erklärung beweist nicht, dass ein Ergebnis korrekt ist. Relevante Faktoren, Funktionsweisen oder Gründe müssen auf einem für Nutzer oder Prüfer geeigneten Niveau vermittelt werden können.
Praktische Perspektive
Je stärker ein Modell Menschen, Rechte, Sicherheit oder wichtige organisatorische Entscheidungen beeinflusst, desto größer ist der Bedarf an einer aussagekräftigen Erklärung. Sie muss eine sachliche Prüfung ermöglichen und darf nicht nur plausibel klingen.