Erklärbarkeit (XAI)

intermediate

Die Fähigkeit, zu verstehen und zu erklären, wie ein KI-System zu seinen Entscheidungen gelangt. Dies ist gemäß dem EU-KI-Gesetz für risikoreiche Systeme vorgeschrieben: Nutzer müssen nachvollziehen können, warum eine KI eine bestimmte Empfehlung oder Entscheidung getroffen hat. Zu den Techniken zählen die Bedeutung von Merkmalen, die Visualisierung von Aufmerksamkeitsmustern und kontrafaktische Erklärungen.