Vertrauenswürdige KI-Copiloten für bessere datenbasierte Entscheidungen in Unternehmen

KI-Copiloten sind bereits in vielen Unternehmen im Einsatz. Hilft das Beschäftigten bei der Datenanalyse und Entscheidungsfindung? Und wenn nein, wie lässt sich das ändern? Unter anderem diese Fragen erforscht ein Team der Universität Passau in einem neuen bidt-Projekt unter der Leitung von Professor Ulrich Gnewuch.

Die Nutzung von Daten als Grundlage für Geschäftsentscheidungen ist in vielen Unternehmen gängige Praxis. Traditionell waren Entscheidungspersonen ohne technischen Hintergrund darauf angewiesen, dass ihnen technisch versiertere Kolleginnen und Kollegen Berichte, Dashboards oder andere Anwendungen bereitstellen.

In Zeiten von generativer künstlicher Intelligenz wie großen Sprachmodellen ändert sich das grundlegend. KI-Copiloten ermöglichen es Nutzerinnen und Nutzern, unabhängig von ihren technischen Fähigkeiten oder Vorkenntnissen, mittels natürlicher Sprache Erkenntnisse aus ihren Daten zu gewinnen. Viele Unternehmen setzen solche KI-Copiloten daher bereits ein, um Beschäftigte bei der datenbasierten Entscheidungsfindung zu unterstützen.

„Trotz des großen Potenzials gibt es auch zahlreiche Bedenken – nicht nur im Hinblick auf die Grenzen der Technologie, sondern auch wie Nutzerinnen und Nutzer mit den Antworten ihres Copiloten umgehen“, sagt Prof. Dr. Ulrich Gnewuch, Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme an der Universität Passau. „Viele Nutzerinnen und Nutzer haben Schwierigkeiten, das richtige Maß an Vertrauen in die Antworten zu finden. Das führt dann häufig zu ineffektiver oder ineffizienter Entscheidungsfindung, weil sie den möglicherweise fehlerhaften Antworten blind vertrauen oder viel Zeit damit verbringen, die Ergebnisse erst zu überprüfen.“

Der Wirtschaftsinformatiker leitet ein Forschungsteam, das genau diese Herausforderungen in dem neuen Vorhaben mit dem Titel „Vertrauenswürdige Generative KI-Copiloten für Datenanalysen in geschäftlichen Entscheidungsprozessen“ adressiert. In dem vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) der Bayerischen Akademie der Wissenschaften geförderten Projekt untersuchen die Forschenden, wie sich die Interaktion mit Copiloten auf geschäftliche Entscheidungsprozesse auswirkt und welche Rolle dabei die mentalen Modelle der Nutzenden spielen. Aufbauend auf diesen Erkenntnissen entwickelt das Team Gestaltungsprinzipien für vertrauenswürdige Copiloten und untersucht deren Wirkung in empirischen Studien. Abschließend werden daraus Handlungsempfehlungen für den Einsatz von Copiloten in Unternehmen abgeleitet.

Das Projekt ist im Januar 2025 gestartet und hat eine Laufzeit von vier Jahren. Es ist eines von zehn Projekten im neuen Forschungsschwerpunkt am bidt zum Thema „Mensch und generative KI: Trust in Human-AI Co-Creation“. Sprecherin des Forschungsschwerpunkts ist Prof. Dr. Hannah Schmid-Petri, die an der Universität Passau den Lehrstuhl für Wissenschaftskommunikation innehat.

Über den Projektleiter

Prof. Dr. Ulrich Gnewuch ist seit 2024 Inhaber des Lehrstuhls für Wirtschaftsinformatik mit Schwerpunkt Nachvollziehbare KI-basierte Betriebliche Informationssysteme an der Universität Passau, den der Freistaat Bayern im Rahmen der Hightech Agenda geschaffen hat. Im Mittelpunkt seiner Forschung an der Schnittstelle von Wirtschaftsinformatik und Mensch-Computer Interaktion stehen die Gestaltung, die Nutzung und die Auswirkungen von künstlicher Intelligenz in Unternehmen und in der Gesellschaft.