XAI-Demonstrator - Erklärbare KI

Erleben Sie Erklärbare KI

Entdecken Sie mit unserem XAI-Demonstrator das Potenzial von Explainable AI.

Der XAI-Demonstrator ist eine App, mit der Sie Methoden der Erklärbaren KI live und interaktiv kennenlernen können.

Auf dieser Seite können Sie den XAI-Demonstrator ausprobieren. Sie finden hier außerdem Informationen über die Funktionsweise und realen Vorbilder der verschiedenen Anwendungsfälle.

Auf dieser Seite können Sie sich über die Funktionsweise und realen Vorbilder der verschiedenen Anwendungsfälle des XAI-Demonstrators informieren und diese direkt aufrufen.

Stimmung in Texten erkennen

Interagieren Sie mit einer KI, die anhand eines Bewertungstextes, z. B. einer Produktbewertung, die Stimmung des Textes vorhersagt.

Verfassen Sie eine eigene Bewertung oder verwenden Sie einen unserer Beispieltexte.
Die KI ordnet den Text als 1-Sterne- bis 5-Sterne-Bewertung ein.
Lassen Sie sich nun mithilfe von Erklärbarer KI zeigen, weshalb die KI zu diesem Ergebnis gelangt ist.

Übrigens: Die KI versteht auch Englisch, Niederländisch, Französisch, Italienisch und Spanisch.

Welches KI-Modell kommt hier zum Einsatz?

Das eingesetzte KI-Modell (bert-base-multilingual-uncased-sentiment von NLPTown) wurde mit über 500.000 Bewertungen in verschiedenen Sprachen trainiert und kann einen gegebenen Text in eine der fünf Klassen „1 Stern“ bis „5 Sterne“ einordnen.

Es basiert auf dem von Google entwickelten BERT-Modell (Bidirectional Encoder Representations from Transformers), ein vielfach eingesetztes State-of-the-Art KI-Modell auf dem Gebiet des Natural Language Processing (NLP).

XAI

Welche Methode der Erklärbaren KI wird hier verwendet?

Die Erklärungen werden mithilfe der Methode Integrated Gradients erzeugt, die sich besonders gut bei Deep Neural Networks einsetzen lässt.

Sie ermittelt die relevantesten Wörter eines Textes und deren Einfluss auf die Bewertung durch das KI-Modell. Beides wird dann mittels Diagramm visualisiert.

Die Implementierung der Methode stammt aus der Bibliothek Captum aus dem Umfeld der von Facebook entwickelten Deep-Learning-Bibliothek PyTorch.

Anwendungen dieser Art nennt man Textklassifikation, da das KI-Modell Texte in bestimmte Kategorien einordnen, sprich klassifizieren soll. Textklassifikation ist in der Praxis bereits seit Jahren etabliert und gewinnt durch die rasante Zunahme digital verfügbarer Texte verstärkt an Relevanz.

Sie findet unter anderem Einsatz in den folgenden Bereichen:

Sentimentanalyse

zum Beispiel im Kundenservice oder auf Online-Verkaufsplattformen zur Messung der Kund*innenzufriedenheit

Topic Detection

zum Beispiel zur Strukturierung von Dokumenten in Due-Dilligence-Verfahren oder zur automatisierten Verschlagwortung von Filmen oder Forenbeiträgen

Offensive Language Detection

zum Beispiel zur Durchsetzung von Guidelines auf Social-Media-Plattformen

Wissensexploration

zum Beispiel in Suchmaschinen zur automatisierten Zuordnung von Dokumenten und Websites zu bestimmten Oberthemen

Gegenstände auf Bildern erkennen

Interagieren Sie mit einer KI, die einen Gegenstand innerhalb eines Bildausschnitts erkennen kann. Sie sehen ein Foto, auf dem verschiedene Gegenstände abgebildet sind.

Wählen Sie einen Bildausschnitt, den die KI klassifizieren soll. Die KI berechnet nun die Vorhersage für diesen Ausschnitt und zeigt Ihnen das Ergebnis an.
Lassen Sie sich mithilfe von Erklärbarer KI eine Erklärung zum KI-Ergebnis liefern. Die farblich hervorgehobenen Stellen des Bildausschnitt waren ausschlaggebend für die Klassifizierung durch die KI.

Welches KI-Modell kommt hier zum Einsatz?

Dieses KI-Modell ist ein neuronales Netz auf Basis von MobileNetV2, das 1001 verschiedene Objekte erkennen kann.

Um einen gegebenen Bildausschnitt zu identifizieren, ordnet das neuronale Netz diesen in eine von 1001 Klassen ein, von denen jede für einen bestimmten Gegenstand steht. Anschließend wird das Ergebnis in eine für Menschen verständliche Sprache übersetzt.

XAI

Welche Methode der Erklärbaren KI wird hier verwendet?

Die Erklärungen werden mit der XAI-Methode LIME (Local Interpretable Model-Agnostic Explanations) generiert.

Eine von LIME erzeugte Erklärung entspricht einer graphischen Hervorhebung derjenigen Bildbereiche, die für die konkrete Klassifizierung besonders relevant sind.

Bildklassifikation als die hier zugrundeliegende KI-Anwendung ist in der Praxis weit verbreitet und hat über das vergangene Jahrzehnt substanzielle Fortschritte durch Weiterentwicklungen im Bereich künstlicher neuronaler Netze erreicht.

Heute wird Bildklassifikation beispielsweise in den folgenden Bereichen eingesetzt:

Objekterkennung

zum Beispiel beim autonomen Fahren

Gesichtserkennung

zum Beispiel zur Identifikation von Personen auf Fotos in Social Media

Medizin

zum Beispiel zur Diagnose anhand von Röntgenbildern

Qualitätssicherung

zum Beispiel zur Identifikation fehlerhafter Ware

Voriger

Der XAI-Demonstrator wurde 2020/21 im Rahmen eines Projekts an der Universität Ulm entwickelt mit dem Ziel, die Methoden und Konzepte von XAI anhand von alltagsnahen Beispielen für die Allgemeinheit und für potenzielle Anwender*innen verständlich und zugänglich zu machen. Seither wird die Anwendung fortlaufend erweitert und dient auch als technologische Grundlage für verschiedene Forschungsvorhaben sowie Praxisprojekte des XAI-Studios.

Der XAI-Demonstrator steht unter einer Open-Source-Lizenz zur Verfügung und kann auch von anderen Interessierten für eigene Zwecke eingesetzt werden.

Die auf dieser Seite eingebundenen iPhone-Frames wurden von Oleg/Marvelapp erstellt und werden unter den Bedingungen der MIT-Lizenz genutzt.