Erklärbare Künstliche Intelligenz

Was ist erklärbare Künstliche Intelligenz?

Erklärbare Künstliche Intelligenz (XAI) bezeichnet die Gesamtheit der Methoden und Techniken, die die Entscheidungen von KI-Systemen so begründen, dass Menschen sie nachvollziehen können. KI-Modelle sind in kritischen Bereichen wie Finanzen, Gesundheit, Recht und Personalwesen zunehmend an Entscheidungsprozessen beteiligt. Die große Mehrheit dieser Modelle arbeitet jedoch wie eine "Blackbox": Wie das Modell zu einem Ergebnis gelangt und welche Daten es auf welche Weise bewertet hat, ist von außen nicht erkennbar. Erklärbare KI hat zum Ziel, diese Blackbox transparent zu machen.

Am konkretesten zeigt sich dieser Bedarf bei finanziellen Entscheidungen. Wenn ein System einen Kreditantrag ablehnt, eine Ausgabe als richtlinienwidrig markiert oder eine Rechnungszahlung als verdächtig einstuft und anhält, haben sowohl die von der Entscheidung betroffene Person als auch das Finanzteam, das diese Entscheidung verteidigen muss, ein Recht darauf, die Begründung zu sehen. Eine Entscheidung, deren Begründung nicht gezeigt werden kann, erzeugt im Unternehmen — so treffend sie auch sein mag — kein Vertrauen, sondern Reibung.

Warum ist Erklärbarkeit bei finanziellen Entscheidungen entscheidend?

In Spesen- und Ausgabenprozessen wird KI inzwischen für drei Kernaufgaben eingesetzt: Ausgaben automatisch klassifizieren, ungewöhnliche Transaktionen erkennen und die Einhaltung der Ausgabenrichtlinie prüfen. Diese drei Aufgaben haben eines gemeinsam: Das Ergebnis betrifft unmittelbar das Geld eines Mitarbeiters, die Genehmigungsverantwortung einer Führungskraft und die Prüfakte des Unternehmens. Erklärbarkeit ist deshalb im Finanzbetrieb keine Präferenz, sondern eine Voraussetzung des Funktionierens:

• Vertrauen in Genehmigungen: Führungskräfte vertrauen der Empfehlung "genehmigen" oder "ablehnen" des Systems, wenn sie deren Begründung sehen; sehen sie sie nicht, beginnen sie, jede Empfehlung manuell nachzuprüfen, und die durch Automatisierung gewonnene Zeit geht wieder verloren.
• Fairness gegenüber Mitarbeitenden: Wer eine abgelehnte Spesenabrechnung hat, sollte nicht die Antwort "das System hat so entschieden" erhalten, sondern eine konkrete Begründung wie "die Übernachtungsposition überschreitet die Obergrenze der Teamrichtlinie". Eine unbegründete Ablehnung beschädigt das Vertrauen in den Spesenprozess.
• Prüfpfad: Wenn die interne Revision oder eine unabhängige Prüfung fragt, warum eine Ausgabe markiert oder genehmigt wurde, muss rückwirkend gezeigt werden können, auf welcher Regel und welchen Daten die Entscheidung beruhte.
• Fehler- und Verzerrungserkennung: Ist die Begründung einer Entscheidung sichtbar, fällt früh auf, wenn sich das Modell auf ein falsches Muster festgelegt hat (etwa die Ausgaben einer bestimmten Abteilung systematisch als verdächtig einzustufen), und es kann korrigiert werden.
• Regulatorische Konformität: Das KI-Gesetz der Europäischen Union verlangt, dass Entscheidungen in Hochrisikosystemen begründbar und prüfbar sind; auch in der Türkei sichert das Datenschutzrecht das Recht der Einzelnen auf Information bei automatisierten Entscheidungsprozessen.

Sichtbare Begründung bei der Spesengenehmigung

Im klassischen Genehmigungsablauf sieht die Führungskraft nur Betrag und Kategorie der Spesenposition und entscheidet nach Gefühl. In einem KI-gestützten Ablauf erzeugt das System für jede Position eine Empfehlung. Erklärbarkeit bedeutet hier: Zusammen mit der Empfehlung werden auch die Faktoren angezeigt, die zu ihr geführt haben.

Neben der Empfehlung "diese Spesenposition sollte geprüft werden" werden beispielsweise Gründe aufgeführt: Das Belegdatum stimmt nicht mit den Reisedaten überein, der Betrag liegt deutlich über den bisherigen Ausgaben derselben Kategorie, oder derselbe Beleg wurde bereits in einem anderen Bericht verwendet. Die Führungskraft delegiert die Entscheidung damit nicht — sie trifft eine beschleunigte und begründete Entscheidung. Diese Unterscheidung ist wichtig: In einem gut konzipierten System liegt das letzte Wort immer beim Menschen; die KI bereitet die Entscheidung lediglich vor.

Ein weiterer Gewinn der sichtbaren Begründung liegt auf der Budgetseite. Wenn berichtet werden kann, welche Ausgaben aus welchen Gründen hängen geblieben sind, erkennt das Finanzteam die Lücken im Richtlinientext und aktualisiert die Budgetplanung anhand des tatsächlichen Ausgabeverhaltens.

Transparenz bei der Anomalieerkennung: "Warum diese Transaktion?"

Das größte Risiko von Systemen, die ungewöhnliche Ausgaben aufspüren, ist das Erzeugen unbegründeter Alarme. Ein unbegründeter Alarm ist in beide Richtungen teuer: Fehlalarme verbrauchen die Zeit des Finanzteams, und nach einer Weile werden sämtliche Warnungen ignoriert; wird dagegen ein echter Fall von Spesenmissbrauch entdeckt und kann keine Begründung gezeigt werden, bleibt die Frage an den Mitarbeitenden ohne Grundlage.

Eine erklärbare Anomalieerkennung stellt neben jede Warnung die Antwort auf die Frage "warum ist diese Transaktion ungewöhnlich": ein doppelter Beleg, ein Geschäftsessen am Wochenende, wiederholte Ausgaben, die sich der Obergrenze der Richtlinie exakt an der Grenze nähern, und Ähnliches. So wird die Warnung keine Anschuldigung, sondern ein gemeinsam zu untersuchender Befund. Das Finanzteam weiß, was es warum prüft; der Mitarbeitende sieht, womit er konfrontiert ist; und der Prüfer kann aus den Aufzeichnungen belegen, dass der Prozess regelbasiert und nicht willkürlich abläuft.

Prüfungsbereite KI: Aufzeichnung, Begründung, Einspruch

Um Erklärbarkeit im Finanzbetrieb dauerhaft zu verankern, gibt es drei praktische Säulen:

• Entscheidungsprotokoll: Jede Empfehlung der KI sollte mit Datum, zugrunde liegenden Daten und angewandter Regel aufgezeichnet werden. Im Prüfungsfall muss die Frage "warum hat das System an jenem Tag so entschieden" rückwirkend und vollständig beantwortet werden können.
• Erklärung je nach Zielgruppe: Die Begründung derselben Entscheidung sollte verschiedenen Zielgruppen in unterschiedlicher Tiefe präsentiert werden. Der Mitarbeitende erwartet eine verständliche Begründung in einem Satz, das Finanzteam eine Aufschlüsselung von Regeln und Daten, der Prüfer eine durchgehend nachvollziehbare Aufzeichnung.
• Einspruchsmechanismus: Für jede automatisch markierte Entscheidung muss der Weg zu einem Menschen offen stehen. Einsprüche sind zugleich die wertvollste Feedbackquelle, die die Fehler des Modells aufzeigt.

Dieses Dreigespann macht aus Erklärbarkeit mehr als ein technisches Merkmal — einen institutionellen Vertrauensvertrag: Das System schlägt eine Entscheidung vor, zeigt seine Begründung, führt Protokoll und überlässt das letzte Wort dem Menschen.

Häufig gestellte Fragen

Verlangsamt Erklärbarkeit die Spesengenehmigung?

Im Gegenteil, sie beschleunigt sie. Unbegründete Empfehlungen zwingen die Führungskraft, jede Position manuell zu prüfen; begründete Empfehlungen sorgen dafür, dass man nur bei den wirklich verdächtigen Positionen innehält. Die Erklärung ist die Voraussetzung dafür, Automatisierung mit Vertrauen einsetzen zu können.

Ist jede von der KI markierte Ausgabe Missbrauch?

Nein. Eine Markierung ist kein Urteil, sondern eine Aufforderung zur Prüfung. Ein doppelter Beleg entsteht meist aus Unachtsamkeit, eine Richtlinienüberschreitung meist aus einer veralteten Regel. Genau diese Unterscheidung schnell treffen zu können, ermöglicht die Erklärbarkeit.

Gilt das auch für kleine und mittlere Unternehmen?

Ja. Auch wenn das Ausgabenvolumen klein ist, bleibt das Problem unbegründeter Entscheidungen dasselbe. Fertige Ausgabenmanagement-Lösungen bringen die Anzeige von Regeln und Begründungen bereits mit, sodass keine eigene Entwicklungsinvestition erforderlich ist.

Was ist die größte Herausforderung der Erklärbarkeit?

Die Balance zwischen Genauigkeit und Verständlichkeit. Komplexere Modelle liefern in der Regel treffendere Ergebnisse, aber ihre Begründung zu zeigen wird schwieriger. In Finanzprozessen sollte die Balance auf der Seite liegen, deren Begründung gezeigt werden kann; denn eine Entscheidung, die sich nicht verteidigen lässt, ist — selbst wenn sie richtig ist — in der Prüfung und in den Augen der Mitarbeitenden wertlos.

Machen Sie Ihre Ausgabenentscheidungen transparent

Erklärbare KI ist die Vertrauensinfrastruktur des Finanzbetriebs: Genehmigungen werden schneller, Warnungen erhalten eine Begründung, die Prüfakte entsteht von selbst. Masraffs Lösung für Spesenmanagement bietet ihre intelligenten Funktionen — von der Ausgabenklassifizierung bis zur Richtlinienkontrolle — nach diesem Transparenzprinzip an. Kontaktieren Sie uns, um die Prozesse vor Ort kennenzulernen.