Machines in Decision Making: Algorithm Aversion and Procedural Transparency

In unserem Alltag sind Computer-Algorithmen weit verbreitet, z.B. bei der Websuche, bei Musikangeboten, beim Finden passender Bewerber für Stellenangebote oder bei Vorschlägen für die schnellste Route zu einem Zielort. In den letzten Jahren wurden Algorithmen in Entscheidungen im (computergesteuerten) Geschäftsleben, in Regierungsangelegenheiten bzw. im Gesundheitswesen zunehmend involviert, was die Wechselwirkung zwischen menschen- und maschinengemachten Entscheidungen zu einem Gebiet gemacht hat, das zwar viele Vorteile verspricht, aber auch ein gewisses Konfliktpotenzial birgt.

Trotz des weit verbreiteten (und manchmal unbemerkten) Agierens von Algorithmen und maschinenbasierten Entscheidungen sind die allgemeine Akzeptanz algorithmischer Entscheidungen und das Vertrauen in ihre Vorhersagen recht niedrig, was die so genannte ,algorithm aversion‘ ausmacht (z.B. Dietvorst, Simmons u. Massey, 2014). Es ist eine belastbare Erkenntnis, dass die menschliche Rezeption von durch Maschinen getroffenen Entscheidungen tendenziell kritisch ist, und dass Menschen Bedenken haben, wenn es darum geht, sich dieser Technologie zu bedienen, um selbst zu informierten Entschlüssen zu kommen. Deshalb beschäftigt sich das geplante Vorhaben mit den Faktoren, welche die Nutzung und Wahrnehmung von Algorithmen als Hilfswerkzeug in der menschlichen Entscheidungsfindung beeinflussen, sowie mit der subjektiven Evaluation automatisierter Entscheidungen seitens (potenzieller) Nutzer. Das Vorhaben setzt sich zum Ziel, (1) den Einfluss der Zurverfügungstellung verfahrenstechnischer Informationen über den Algorithmus auf dessen Nutzung und Bewertung in der Entscheidungsfindung zu untersuchen, und (2) die Relevanz des spezifischen Szenarios, in dem die Entscheidung getroffen wird, zu erforschen. Gesamtergebnisse aus dem Vorhaben werden neue Einsichten in die Ursachen der ,algorithm aversion‘ liefern, sowie in mögliche Wege zur Minderung (potenziell ungerechtfertigter) Vorbehalte gegen den Einsatz von Algorithmen in der Entscheidungsfindung.

Alle Studien werden einem experimentellen Ansatz folgen, indem die Bedingungen in und/oder unter den Teilnehmenden systematisch variiert und primär die quantitativen Metriken der Entscheidungsevaluation unter den jeweiligen Bedingungen gemessen werden. Beispielsweise werden das Vertrauen, die Akzeptanz und die Zuversicht bezüglich der Entscheidung und der / des Entscheidenden (Mensch / Maschine) gemessen. Qualitative Maßnahmen und Feedback von den Teilnehmenden über ihre Entscheidungen werden ebenfalls miteinbezogen, um sowohl eine Gesamtperspektive über die Beurteilung der ,algorithm aversion‘ als auch deren potenzielle Modulation zu erlauben. Alle Studien werden als Online-Erhebungen durchgeführt. Berechnungen des Probenumfangs und statistische Analysen werden entsprechend der einschlägigen Literatur vorgenommen.

Das Vorhaben hat zwei Ziele: Erstens wird es die Basis der ,algorithm aversion‘ und deren zugrunde liegende Bestimmungsfaktoren dadurch untersuchen, dass verfahrenstechnische Informationen über die Art, auf die Algorithmen funktionieren mit einem spezifischen Fokus auf die Einbeziehung neuer Informationen systematisch variiert werden. Wenn die (implizite) Annahme, Algorithmen seien nicht in der Lage, neue Informationen einzubeziehen, zu ,algorithm aversion‘ beiträgt, so sollte die Lieferung von Informationen, die diese Skepsis abbauen, die wahrgenommene Anwendbarkeit eines Algorithmus verbessern. Zweitens werden potenzielle Randparameter für die Akzeptanz bzw. Ablehnung von Algorithmen in der Entscheidungsfindung dadurch getestet, dass verschiedene Aspekte des Entscheidungsszenarios variiert werden. Die Evaluation algorithmischer Entscheidungen in unterschiedlichen Szenarien wird ebenfalls Einsichten liefern in die Generalisierbarkeit der Erkenntnisse.

Die Ergebnisse des Vorhabens werden einen Beitrag leisten zum theoretischen Verständnis der Evaluation algorithmischer Entscheidungen, und Praktizierenden Erstberatung bieten, die mit der Aufgabe konfrontiert sind, Algorithmen im Zuge der Digitalisierung der Gesellschaft und des Arbeitsplatzes zu implementieren und/oder anzuwenden.