Explainable AI
Explainable AI bezeichnet Verfahren, die Ergebnisse eines KI-Systems nachvollziehbar machen: durch Angabe der herangezogenen Merkmale, durch Quellenverweise oder durch Darstellung des Einflusses einzelner Eingaben.
Der Bedarf folgt aus rechtlichen Anforderungen. Bei automatisierten Entscheidungen mit erheblicher Wirkung bestehen Informations- und Anfechtungsrechte, die eine Erklärbarkeit voraussetzen. Für Hochrisiko-Systeme verlangt die Verordnung über künstliche Intelligenz Transparenz, Protokollierung und wirksame menschliche Aufsicht, die ohne Nachvollziehbarkeit nicht möglich ist.
Im behördlichen Bereich tritt die Begründungspflicht von Entscheidungen hinzu, die nicht durch den Hinweis auf ein System ersetzt werden kann.
Für die anwaltliche Arbeit ist Erklärbarkeit die Voraussetzung jeder Überprüfung. Ein Ergebnis ohne nachvollziehbare Grundlage ist nicht verwertbar, weil die Verantwortung beim Berufsträger bleibt.