KI findet in immer mehr Bereichen des Berufslebens Anwendung: Bei Bewerbungen sieht sie Lebensläufe automatisiert durch, manche Firmen nutzen sie als Organisationstool für den Arbeitsalltag. Jedoch stellt die relativ neue Technologie immer mehr Unternehmen vor ethische Herausforderungen, etwa im Bereich Datenschutz.
Ein Team der Universität Passau unter Leitung von Prof. Dr. Karoline Reinhardt, Professur für Angewandte Ethik, erforscht im vom Bayerischen Staatsministerium für Wissenschaft und Kunst (StMWK) geförderten Projekt „AI Ethics In Practice“ (AEIP) die ethischen Probleme, die sich Technikerinnen und Technikern in Firmen beim Einsatz von KI bei Produktentwicklung und Technologien stellen. Auf Basis dieser Ergebnisse konzipieren die Forschenden eine Weiterbildung mit abschließendem Hochschulzertifikat an der Universität Passau.
„Der Einsatz von KI generiert eine Fülle von weiterführenden Fragen und Problemstellungen, insbesondere auch in der konkreten Praxis“, stellt Prof. Dr. Werner Gamerith, Vizepräsident für Transfer und interne Vernetzung, fest. „Gemeinsam mit Unternehmen aus der Region sollen diese systematisch erschlossen werden. Die Universität Passau möchte das Wissen darüber entwickeln und es in Form von Weiterbildungsangeboten breiter zur Verfügung stellen.“
Die ethischen Herausforderungen sind vielfältig: Eine KI lernt anhand von Daten aus der Wirklichkeit. So können sich bereits bestehende Diskriminierungen durch die Technologie verstärken, etwa wenn sie in Bewerbungsverfahren Personen aufgrund ihres Namens oder Geschlechts aussortiert.
„Häufig gibt es auch Probleme mit der Verantwortungszurechnung“, so Dr. Heiner Koch, wissenschaftlicher Mitarbeiter am Lehrstuhl für Angewandte Ethik und bei AEIP. Diese träten etwa beim autonomen Fahren auf, wenn KI-Produkte eingesetzt würden. Bei einem Unfall stelle sich hier die Frage, wer verantwortlich sei: Ist es „die Person, die das Auto verwendet, die Person, die das Auto produziert oder die Person, die die steuernde KI entwickelt hat?“.
Zudem treten auch Fragen der sinnvollen Anwendung von KI in Unternehmen und beim Datenschutz auf. Koch nennt Beispiele für einige zentrale Punkte: „Wo kommen die Daten her, mit denen die KI trainiert wird, welche Daten kann sie ausspielen, ohne dass es Datenschutzverletzungen gibt?“
Genau für diese Fragen entwickelt das Forschungsteam im Rahmen des Projekts eine Weiterbildung. Zielgruppe sind Technikerinnen und Techniker sowie Ingenieurinnen und Ingenieure in Unternehmen in der Region Passau. Die Weiterbildung soll über die reine Vermittlung von Inhalten hinausgehen. Es soll für die Teilnehmenden Möglichkeiten geben, die eigenen Erfahrungen und Problemstellungen aus der Praxis in der Gruppe zu diskutieren.
Neben Prof. Dr. Karoline Reinhardt und Dr. Heiner Koch sind an der Universität Passau noch Dr. Alexandra Schick und Mitarbeitende des Referats Karriere und Kompetenzen für den Aufbau der Strukturen im Bereich Wissenschaftliche Weiterbildung beteiligt. Prof. Dr. Werner Gamerith (Vize-Präsident für Transfer und interne Vernetzung) ist von Seiten der Hochschulleitung zuständig. Zudem sind die Lehrstühle für AI Engineering (Prof. Dr. Steffen Herbold), Psychologie mit Schwerpunkt Mensch-Maschine Interaktion (Prof. Dr. Susanne Mayr), KI im Strafrecht (Prof. Dr. Brian Valerius) und Katholische Theologie (Prof. Dr. Bernhard Bleyer) beteiligt. Aus der Region nehmen die Unternehmen Knorr-Bremse, Micro Epsilon, Sumida AG, ZF Group, Motorenfabrik Hatz GmbH, das Unternehmerforum Neuburger Gesprächskreis und TIBAY teil.
Gefördert wird das Projekt vom Bayerischen Staatsministerium für Wissenschaft und Kunst (StMWK) im Zeitraum von 01.07.2024 bis 31.06.2025 im Rahmen der Förderung des Ausbaus von Hochschulzertifikaten im technisch-ingenieurwissenschaftlichen Bereich zur Stärkung der akademischen Weiterbildung an bayerischen Universitäten und Hochschulen für angewandte Wissenschaften (digital.ING II).
Text: Pia Stock