Weitere Informationen:
Digitale Empfehlungssysteme unterstützen Menschen bei Entscheidungen, wenn die schiere Menge verfügbarer Angebote eine fundierte Auswahl kaum noch allein möglich macht. Das ist etwa der Fall bei Bildungs- und Weiterbildungsangeboten – allein auf Plattformen wie Coursera oder Udemy gibt es Hunderttausende an Kursen. Moderne KI kann hier unterstützen: Sie erkennt Muster in Datenmengen, die für Menschen kaum zu überblicken sind. Dadurch kann KI sehr präzise Empfehlungen aussprechen, die unsere Entscheidungen unterstützen. Doch gerade bei Bildungsentscheidungen – die langfristige Auswirkungen auf die berufliche und persönliche Entwicklung haben – reicht schnelles Filtern nicht aus. Gefragt ist nicht nur Effizienz, sondern Reflexion.
Genau hier setzt unser Ansatz an. Mithilfe von Erklärbarer KI werden Empfehlungen nicht als fertige Ergebnisse präsentiert, sondern transparent gemacht: Nutzer*innen sehen, welche Fähigkeiten, Interessen oder Ziele zu einer Empfehlung führen. Sie können Prioritäten verschieben, Alternativen erkunden und verschiedene Szenarien durchspielen – KI und Mensch erkunden gemeinsam mögliche Bildungswege. Diese Ko-Kreation von Empfehlungen macht den Unterschied: KI-Ergebnisse werden nicht einfach übernommen, sondern interpretiert, hinterfragt und weiterentwickelt. Die KI wird so zur echten Reflexionspartnerin. Dieses Prinzip in der Bildungswelt nennen wir den Skill-Kompass.
Mit jeder Interaktion lernt das System dazu und personalisiert seine Empfehlungen zunehmend. Die zugrunde liegende Technologie ist dabei vielseitig einsetzbar – von der Berufsorientierung junger Menschen bis zur beruflichen Weiterbildung in Unternehmen. Gerade vor dem Hintergrund des technologischen Wandels und sich verändernder Kompetenzanforderungen kann das einen wichtigen Beitrag leisten, um Kompetenzen gezielt aufzubauen und Beschäftigungsfähigkeit langfristig zu sichern. Denn: Wir müssen lebenslang lernen.
Konkret umgesetzt wurde der Skill-Kompass als „Kris Känguru“ in Kooperation mit der START-Stiftung für Jugendliche mit Migrationshintergrund, als Demonstrator „XPERT“ für die berufliche Weiterbildung sowie als „AI Scouty“ an der Universität Ulm, um Studierende bei der Kursauswahl zu unterstützen.
Sie haben Interesse an KI als Reflexionspartnerin in Ihrer Organisation ?
KI wird zunehmend eingesetzt, um komplexe betriebliche Entscheidungen zu unterstützen – so auch bei der Planung von Fertigungsprozessen. KI analysiert dabei große Datenmengen und erkennt Muster, die menschliche Expert*innen kaum überblicken könnten. Doch trotz dieser Leistungsfähigkeit stoßen KI-Systeme in der Praxis an Grenzen: Kontextverständnis, Erfahrungswissen und die Fähigkeit, flexibel auf neue Situationen zu reagieren – das bleibt die Stärke des Menschen. Für die perfekte (und effiziente) Planung von Fertigungsprozessen braucht es das Beste aus beiden Welten: KI und menschliche Expertise.
Genau hier setzt der Human-in-the-Loop-Ansatz an. Statt Entscheidungen vollständig zu automatisieren, werden menschliche Expertise und KI gezielt kombiniert: Menschen bewerten, hinterfragen und korrigieren KI-Ergebnisse und verbessern diese durch ihr Feedback kontinuierlich weiter. KI wird dabei nicht als Ersatz verstanden, sondern als Ergänzung. Dieser Ansatz ist überall dort relevant, wo komplexe Entscheidungen unter Unsicherheit getroffen werden – etwa in Produktion, Logistik oder Vertrieb.
Ein konkretes Anwendungsbeispiel ist die Metallindustrie: Unternehmen müssen regelmäßig komplexe Bauteile kalkulieren, Angebote erstellen und Fertigungsprozesse planen. Diese Entscheidungen sind datenintensiv, aber gleichzeitig stark von Erfahrungswissen geprägt – ein klassisches Szenario für den Human-in-the-Loop-Ansatz. Genau hier setzt unser Forschungsprojekt X-Loop an. Wir entwickeln ein KI-basiertes Assistenzsystem für die Preiskalkulation von Blech- und Zerspanungsbauteilen. Auf Basis von Bauteil- und Auftragsdaten berechnet das KI-System Angebotspreise und macht seine Vorschläge mithilfe von Erklärbarer KI nachvollziehbar. Statt intransparenter Automatisierung entsteht so eine echte Mensch-Maschine-Kooperation: Nutzer*innen können Preisvorschläge verstehen, prüfen und gezielt verbessern. Das entlastet Arbeitsvorbereitung, Vertrieb und Projektleitung – und erhöht gleichzeitig die Qualität der Kalkulation. X-Loop zeigt, wie verantwortungsvoller KI-Einsatz in KMU gelingen kann. Das Projekt wird vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördert und läuft von 2024 bis 2027.
Möchten Sie KI und menschliche Expertise in Ihrem Unternehmen sinnvoll verbinden?
Viele unternehmerische Entscheidungen basieren auf der Analyse zeitlicher Entwicklungen – etwa die Planung und Gestaltung von Preisen, Auslastung oder Beständen. Moderne KI kann diese zeitlichen Entwicklungen in Sekundenschnelle überblicken, präzise Prognosen aussprechen und so die Grundlage für fundiertere Entscheidungen schaffen. Doch häufig bleibt unklar, warum eine KI-Prognose in eine bestimmte Richtung weist. Diese Intransparenz ist ein Problem: Wer eine Prognose nicht nachvollziehen kann, kann sie auch nicht sinnvoll einordnen oder hinterfragen.
Genau hier setzen wir an. Mithilfe von Erklärbarer KI bereiten wir Prognosen auf Basis von zeitlichen Entwicklungen so auf, dass sie für Fach- und Führungskräfte verständlich und überprüfbar werden – ohne Einbußen bei der Prognosegüte. Im Zentrum steht die Frage: Welche vergangenen Entwicklungen sind wirklich entscheidend für eine Prognose? Wir machen sichtbar, welche Zeitpunkte in der Vergangenheit einen besonders starken Einfluss auf die Prognose haben – und in welche Richtung dieser Einfluss wirkt. So wird nachvollziehbar, wie die KI „argumentiert“. Prognosen können damit nicht nur genutzt, sondern aktiv eingeordnet und hinterfragt werden.
Gemeinsam mit der MLP SE haben wir den Ansatz unter realen Bedingungen im Controlling pilotiert – einem Bereich, in dem präzise Prognosen direkt in strategische Entscheidungen einfließen. Erklärbare KI macht dabei nicht nur genauere Prognosen möglich, sondern legt auch die zugrundeliegenden Zusammenhänge offen. So können Fach- und Führungskräfte Prognosen besser einordnen und fundierter entscheiden. Das Projekt wurde 2023-2025 durch die Péter Horváth Stiftung gefördert.
Welche zeitbasierten Daten in Ihrem Unternehmen bergen ungenutztes Potenzial? Wir unterstützen Sie dabei, KI-basierte Prognosen nutzbar zu machen.
KI liefert heute individuelle Ergebnisse für immer mehr Menschen – von personalisierten Empfehlungen beim Einkaufen bis hin zu individuellen Berechnungen im Alltag. Viele Nutzer*innen sehen zwar das Ergebnis, verstehen aber nicht, wie es zustande kommt oder welche Faktoren es beeinflussen. Das schafft Unsicherheit und verhindert, dass das volle Potenzial datenbasierter Anwendungen ausgeschöpft wird.
Genau hier setzen wir an. Mithilfe von Erklärbarer KI bereiten wir Berechnungen und Prognosen so auf, dass sie auch für Nutzer*innen ohne technisches Hintergrundwissen nachvollziehbar und interaktiv nutzbar werden. Konkret bedeutet das: Nutzer*innen sehen nicht nur ein Ergebnis, sondern erhalten verständliche Erläuterungen dazu, welche Faktoren das Ergebnis beeinflussen und wie. So wird aus einer reinen Berechnung ein echtes Informationsangebot.
Dass das funktioniert, haben wir empirisch nachgewiesen. In einem gemeinsamen Projekt mit dem Statistischen Bundesamt haben wir den Persönlichen Inflationsrechner um eine automatisierte Erklärkomponente erweitert. Nutzer*innen sehen seitdem nicht nur ihre individuelle Inflationsrate, sondern verstehen auch, warum sie von der amtlichen Rate abweicht und wie sich ihr Ausgabeverhalten auswirkt. Eine Nutzerstudie mit A/B-Testing belegt die Wirkung eindeutig: Die erklärbare Version wird als benutzerfreundlicher und nützlicher wahrgenommen, stärkt das Vertrauen in die Ergebnisse und erhöht die Bereitschaft zur weiteren Nutzung. Kurz: Erklärbarkeit wirkt, auch wenn Nutzer*innen keine spezielle Fachexpertise mitbringen.
Der Ansatz lässt sich auf viele Anwendungsfälle übertragen: überall dort wo KI-Ergebnisse nicht nur für Fachleute, sondern für eine breite Nutzergruppe verständlich sein müssen. Ob Gesundheitsanwendungen, Finanzprodukte oder öffentliche Dienste: Erklärbare KI schafft Vertrauen und steigert die Akzeptanz.
Wie verständlich sind die Ergebnisse Ihrer KI für Ihre Nutzer*innen? Wir helfen Ihnen, KI-Anwendungen für jede und jeden nachvollziehbar zu gestalten.
Viele Organisationen sind darauf angewiesen, dass Expert*innen aus unterschiedlichen Fachbereichen zusammenarbeiten. Gerade bei komplexen Aufgaben führt diese Abhängigkeit jedoch häufig zu Verzögerungen und eingeschränkter Handlungsfähigkeit. KI kann helfen, Fachwissen breiter zugänglich zu machen – doch in der Praxis bleiben viele Systeme schwer verständlich für Personen ohne tiefes Fachwissen. Das Ergebnis: neue Abhängigkeiten statt mehr Eigenständigkeit.
Genau hier setzt unser Ansatz an. Mithilfe von Erklärbarer KI bereiten wir Fachwissen so auf, dass es auch für nicht-spezialisierte Nutzer*innen nachvollziehbar und direkt nutzbar wird. Gemeinsam mit der Wieland Werke AG entwickeln wir ein System, das genau das leistet: Im Angebotsprozess wird geprüft, ob bestimmte Kundenanforderungen technisch realisierbar sind. Bisher erforderte dies aufwändige Abstimmungen zwischen Abteilungen. Mit unserem System können Vertriebsmitarbeitende diese Analyse selbst durchführen, technische Zusammenhänge verstehen und direkt mit Kund*innen Lösungen erarbeiten. Das spart Zeit, reduziert Abstimmungsaufwand und stärkt die Eigenständigkeit im Prozess.
Der Ansatz lässt sich auf viele Bereiche übertragen, in denen spezialisiertes Wissen heute noch eine Engpassstelle ist. Das Projekt ist Teil des vom Bundesministerium für Forschung, Technologie und Raumfahrt geförderten Vorhabens XAI-as-a-Service.
Wo sind in Ihrer Organisation Fachwissen und Eigenständigkeit noch nicht im Gleichgewicht?
