KI-Systeme können das Verhalten von Beschäftigten beeinflussen – selbst dann, wenn diese algorithmische Leistungsbewertungen eigentlich ablehnen. Zu diesem Ergebnis kommt eine Studie der Universität Salzburg. Im Interview erklärt Astrid Reichel, Leiterin der Facheinheit Human Resource Management, warum Transparenz nicht automatisch die Leistung verbessert, welche Aufgaben sich für algorithmische Bewertung eignen und weshalb Unternehmen Betriebsräte frühzeitig in KI-Projekte einbinden sollten.

Frau Professor Reichel, KI bietet viele Möglichkeiten, Leistungen zu bewerten. Was sagt die Forschung dazu: Welche Auswirkungen haben diese algorithmischen Bewertungen auf das Empfinden und Verhalten von Menschen?

Die Forschung hat sich bislang vor allem mit der Akzeptanz KI-basierter Bewertungen beschäftigt. Wir wissen heute, dass viele Menschen algorithmische Leistungsbewertungen kritisch sehen und sie häufig als unfair oder unangenehm empfinden. Menschen möchten meist in ihrer gesamten Persönlichkeit gesehen werden. Genau darin liegt aber ein Risiko: Persönliche Merkmale können Anlass für Diskriminierung sein. Deshalb empfinden Personen, die Diskriminierung erlebt haben oder diese befürchten, algorithmische Entscheidungen häufig als objektiver.

Uns hat jedoch eine andere Frage interessiert: Was passiert, wenn Menschen bewusst ist, dass sie von einem Algorithmus bewertet werden? Verändert dieses Wissen ihr Verhalten – unabhängig davon, ob sie eine algorithmische Bewertung gut oder schlecht finden? Genau darüber wissen wir bislang erstaunlich wenig.

Wie haben Sie diese Frage untersucht?

Der Ausgangspunkt war ein Experiment, das wir während der Coronapandemie mit Studierenden durchgeführt haben. Die Teilnehmenden mussten sich in die Rolle von Chirurginnen und Chirurgen versetzen und Behandlungsentscheidungen treffen. Sie wussten, dass sie nach bestimmten Kennzahlen bewertet werden, darunter die kurzfristige Überlebensrate und der langfristige Behandlungserfolg. Sie kannten nicht den gesamten Algorithmus. Aber auf Basis der Kennzahlen, die ihnen genannt wurden, begannen sie automatisch zu überlegen, welche Kriterien das System besonders stark gewichtet.

Welche Auswirkungen hatten diese Überlegungen auf ihr Verhalten?

Die Teilnehmenden richteten ihre Entscheidungen an den vermuteten Bewertungskriterien aus. Deutlich wurde das in Situationen, in denen sie zwischen älteren, vorerkrankten, und jüngeren Patientinnen oder Patienten entscheiden mussten. Sie orientierten sich in ihrer Entscheidung an der kurzfristigen Überlebenswahrscheinlichkeit, obwohl sie sich durch dieses Bewertungssystem zu ethisch problematischen Entscheidungen gedrängt fühlten.

Das heißt, ihre Einstellung und ihr Verhalten klafften teilweise stark auseinander?

Genau. Menschen können algorithmische Leistungsbewertung ablehnen und sich trotzdem genau so verhalten, wie sie glauben, dass es der Algorithmus erwartet.
Bemerkenswert war außerdem, dass die Teilnehmenden nur einzelne Bewertungskriterien kannten und daraus auf das gesamte System schlossen. Mögliche andere Faktoren berücksichtigten sie kaum. Das zeigt, wie stark algorithmische Bewertung Verhalten beeinflussen kann. Aus der subjektiven Akzeptanz eines Systems lässt sich deshalb nicht unmittelbar auf dessen tatsächliche Wirkung schließen.

Welche Rolle spielt Transparenz in diesem Zusammenhang? Beeinflussen KI-Systeme menschliches Verhalten eher, wenn Menschen verstehen, wie sie funktionieren?

Das hat sich in unserer Forschung nicht uneingeschränkt bestätigt. Wir sind in einer Studie genau dieser Fragestellung nachgegangen und haben untersucht, wie sich das Wissen über die Funktionsweise von KI auf Verhalten und Leistung der bewerteten Personen auswirkt. Dafür haben wir den Teilnehmenden verschiedene Aufgaben gestellt und ihnen unterschiedlich viele Informationen über den Bewertungsalgorithmus gegeben: von der bloßen Information, dass ein Algorithmus bewertet, bis hin zur Offenlegung der Kriterien und ihrer Gewichtung. Bereits an diesem Punkt zeigt sich: Transparenz wirkt – allerdings nicht immer in dieselbe Richtung.

Wann verbessert Transparenz die Leistung – und wann nicht?

Wir haben drei unterschiedliche Aufgabentypen untersucht.

Die erste Aufgabe war eine klassische HR-Entscheidung: Die Teilnehmenden mussten aus mehreren Bewerberprofilen die geeignetste Person auswählen.

Bei der zweiten Aufgabe sollten sie auf Zeit arbeitssicherheitstechnische Mängel auf Fotos von Arbeitsplätzen erkennen. Das war eine typische Konzentrations- und Wissensaufgabe.

Als dritte Aufgabe mussten sie eine kreative Fragestellung bearbeiten, nämlich Employer-Branding-Slogans entwickeln.

An der Studie nahmen sowohl HR-Managerinnen und HR-Manager als auch Beschäftigte aus unterschiedlichen Branchen im deutschsprachigen Raum teil. Beide Gruppen zeigten ein sehr ähnliches Verhalten.

Was wussten die Teilnehmenden über die Funktionsweise der KI?  

Wir haben verschiedene Transparenzstufen miteinander verglichen. In der ersten Stufe wussten die Teilnehmenden lediglich, dass ihre Leistung von einem Algorithmus bewertet wird. In weiteren Stufen erhielten sie zusätzliche Informationen: zunächst über die verwendeten Kriterien, anschließend auch über deren Gewichtung. In den höchsten Transparenzstufen konnten sie die Kriterien beziehungsweise deren Gewichtung aus einer Liste selbst auswählen. So konnten wir untersuchen, wie sich zunehmende Transparenz auf das Verhalten auswirkt.

Welche Ergebnisse haben Sie beobachtet?

Das hing sehr stark von der Aufgabe ab. Bei Entscheidungsaufgaben zeigte sich ein klarer Effekt: Je besser die Teilnehmenden verstanden, nach welchen Kriterien der Algorithmus bewertet, desto stärker richteten sie ihre Entscheidungen – im konkreten Fall: ihre Personalauswahl – daran aus. Sie optimierten ihr Verhalten im Sinne des Bewertungssystems und erzielten bessere Ergebnisse.

Das bedeutet allerdings nicht, dass jede zusätzliche Transparenzstufe automatisch zu einer statistisch signifikanten Verbesserung führte. Insgesamt war die Tendenz aber eindeutig: Mehr Informationen über die Funktionweise führte bei Entscheidungsaufgaben zu einer höheren Leistung.

Können Sie das an einem Beispiel erläutern?

Bei der Personalauswahl bewertete der Algorithmus unter anderem die erwartete Performance, das Commitment zum Unternehmen sowie die voraussichtliche Zeit bis zum Arbeitsbeginn. Die Bewerberprofile enthielten Informationen, aus denen sich diese Kriterien ableiten ließen – etwa frühere Leistungsbeurteilungen, Kündigungsfristen oder die Dauer bisheriger Beschäftigungsverhältnisse.

Sobald die Teilnehmenden wussten, welche Kriterien für die Bewertung relevant waren, orientierten sie ihre Entscheidungen konsequent daran. War beispielsweise das Commitment zum Arbeitgeber ein wichtiges Kriterium, bevorzugten sie Bewerberinnen und Bewerber, die über einen längeren Zeitraum bei wenigen Unternehmen beschäftigt waren.

Das zeigt sehr deutlich, dass transparente Bewertungssysteme Menschen dazu bringen können, ihre Entscheidungen stärker an den Bewerbungskriterien auszurichten.

Gilt das für alle Aufgabentypen?

Nein, die positive Wirkung von Transparenz gilt eben nicht für alle Aufgabentypen. Bei den Konzentrationsaufgaben haben wir Gegenteiliges beobachtet. Hier mussten die Teilnehmenden unter Zeitdruck arbeitssicherheitstechnische Mängel erkennen und anschließend nachweisen, dass sie die relevanten Kriterien verstanden hatten. Das Ergebnis: Je mehr Informationen sie über den Bewertungsalgorithmus erhielten, desto schlechter wurden ihre Ergebnisse.

Der Grund: Bei solchen Aufgaben entsteht durch transparente Bewertungskriterien ein zusätzlicher Leistungsdruck. Die Teilnehmenden mussten sich auf die Aufgabe konzentrieren, möglichst fehlerfrei arbeiten, schnell sein und die Bewertungskriterien im Blick behalten. Dadurch richtete sich ein Teil ihrer Aufmerksamkeit nicht mehr auf die Aufgabe selbst, sondern auf die Frage, wie sie möglichst gut bewertet werden. Gerade bei komplexen Wissens- und Konzentrationsaufgaben kann diese zusätzliche mentale Belastung die Leistung beeinträchtigen.

Das widerspricht der Annahme, dass Transparenz grundsätzlich positiv ist.

Ja. Transparenz ist kein Selbstzweck. Sie kann Verhalten sehr wirksam steuern – allerdings nur dort, wo Menschen ihre Leistung tatsächlich bewusst an den Bewertungskriterien ausrichten können. Bei komplexen Aufgaben funktioniert dieser Mechanismus nicht. Dort erhöht das Wissen um die Bewertungskriterien eher den Druck, ohne die eigentliche Aufgabenbearbeitung zu erleichtern. Deshalb gibt es keine allgemeingültige Empfehlung für oder gegen transparente algorithmische Leistungsbewertung. Entscheidend ist immer die Art der Tätigkeit.

Wie sieht es bei kreativen Aufgaben aus?

Hier war das Bild differenzierter. Bei der Entwicklung von Employer-Branding-Slogans zeigte sich, dass Transparenz durchaus positive Effekte haben kann. Wenn ein Kriterium die Menge der Vorschläge war, entwickelten die Teilnehmenden tendenziell mehr Ideen und auch die inhaltliche Qualität nahm zu.

Allerdings waren diese Ergebnisse weniger eindeutig als bei den Entscheidungsaufgaben. Kreative Leistungen lassen sich grundsätzlich schwerer messen und werden von vielen weiteren Faktoren beeinflusst.

Welche Konsequenzen ergeben sich aus Ihrer Studie für Unternehmen?

Unternehmen, die algorithmische Leistungsbewertungen nutzen wollen, sollten sich zunächst fragen, welches Verhalten sie fördern möchten. Bei Entscheidungsaufgaben kann ein transparenter Algorithmus ein wirksames Steuerungsinstrument sein. Beschäftigte orientieren sich an den bekannten Kriterien und passen ihre Entscheidungen entsprechend an. Bei komplexen Wissens-, Konzentrations- oder anspruchsvollen kreativen Aufgaben sollte man dagegen sehr sorgfältig prüfen, ob ein KI-basiertes System tatsächlich den gewünschten Effekt erzielt.

Unsere Studie zeigt: Entscheidend ist nicht der Algorithmus allein, sondern die Passung zwischen Bewertungssystem und Aufgabe. Gleichzeitig beeinflussen solche Systeme nicht nur die Messung von Leistung, sondern auch das Verhalten der Beschäftigten. Unternehmen sollten deshalb genau überlegen, welche Anreize sie mit ihren Bewertungskriterien setzen.

Unternehmen müssen beim Einsatz von KI in der Leistungsbewertung zudem rechtliche und ethische Aspekte berücksichtigen. Welche Risiken sehen Sie für den Einsatz von KI in der Leistungsmessung?

Abgesehen von den rechtlichen Themen, die wir in diesem Forschungsvorhaben nicht untersucht haben, sehe ich eine Gefahr darin, dass sich Beschäftigte ausschließlich an messbaren Kennzahlen orientieren, die das System vorgibt. Andere Aspekte treten dabei in den Hintergrund. Menschen richten ihre Aufmerksamkeit dann auf das, was bewertet wird – nicht unbedingt auf das, was langfristig den größten Nutzen für die Organisation oder ihre Kundinnen und Kunden schafft. Das kennen wir grundsätzlich auch von klassischen Zielvereinbarungen. Algorithmische Systeme können diesen Effekt jedoch deutlich verstärken, weil sie automatisiert und dadurch konsequent nach mathematischen Regeln Rückmeldung geben.

Kontinuierliche Bewertungen können zudem als Überwachung erlebt werden. Von welchen Kriterien hängt ab, wie Menschen eine Bewertung empfinden?

Hier liefert die Motivationsforschung wichtige Erkenntnisse. Jede Leistungsbewertung hat sowohl einen informierenden als auch einen kontrollierenden Charakter. Entscheidend ist, welcher dieser Aspekte überwiegt. Wenn Beschäftigte nachvollziehen können, warum sie eine bestimmte Rückmeldung erhalten und welche Kriterien dahinterstehen, wird Feedback eher als Orientierung verstanden. Es hilft ihnen, ihre eigene Leistung einzuordnen und sich weiterzuentwickeln. Fehlt diese Nachvollziehbarkeit, bleibt vor allem das Gefühl zurück, ständig beobachtet oder kontrolliert zu werden.

Das hat besonders dann negative motivationale Wirkung, wenn Arbeitsaufgaben (auch) aus intrinsischer Motivation heraus erledigt werden. Der Selbstbestimmungstheorie folgend geht diese umso mehr verloren, je stärker Rückmeldungen ausschließlich als Kontrolle und kaum als Information erlebt werden.

Kann der Einsatz von KI-Tools in der Bewertung auch die Arbeitgeberattraktivität beeinflussen?

Das ist eine weitere Facette. Selbst wenn algorithmische Bewertung kurzfristig gewünschte Verhaltensänderungen bewirken kann, sollten Unternehmen die langfristigen Folgen nicht unterschätzen. Wie bereits erwähnt belegen Studien, dass viele Menschen automatisierte Leistungsbeurteilungen skeptisch sehen. Gerade in Zeiten des Fachkräftemangels kann sich der Einsatz eines entsprechenden KI-basierten Systems daher auf die Attraktivität eines Arbeitgebers auswirken. Beschäftigte entscheiden sich möglicherweise bewusst gegen Unternehmen, die stark auf automatisierte Bewertungssysteme setzen.

Deshalb sollten Organisationen nicht nur fragen, welche Leistungsanreize ein KI-System setzt. Genauso wichtig ist die Frage, welche Signale der Einsatz an Bewerberinnen, Bewerber und Mitarbeitende sendet.

Sie beschäftigen sich auch mit der Regulierung von KI im Arbeitskontext. Welche Rolle spielen Betriebsräte dabei?

Betriebsräte spielen eine Schlüsselrolle. Das österreichische Arbeitsverfassungsrecht sieht bei bestimmten digitalen Systemen ausdrücklich Mitbestimmungsrechte vor. Insbesondere bei der automatisierten Verarbeitung personenbezogener Beschäftigtendaten kann die Zustimmung des Betriebsrats erforderlich sein. Sogar klassische Leistungsdaten wie Verkaufszahlen oder Bearbeitungszeiten können etwa bei starkem Personenbezug und hoher Kontrollintensität problematisch sein. Denn berührt ein System zur Leistungs- oder Verhaltenskontrolle die Menschenwürde, ist die Zustimmung des Betriebsrats erforderlich.

Wo liegt dabei die Herausforderung?

Moderne KI-Systeme erkennen Muster in sehr großen Datenmengen. Personalinformationssysteme enthalten heute weit mehr Informationen als reine Leistungsdaten – etwa Alter, Wohnort oder familiäre Merkmale. Diese Daten werden nicht zwangsläufig verwendet, um Entscheidungen zu treffen. Je komplexer ein System jedoch wird, desto größer ist die Gefahr, dass Zusammenhänge entstehen, die rechtlich oder ethisch problematisch sind. Genau deshalb stellt der AI Act hohe Anforderungen an Transparenz, Nachvollziehbarkeit und Risikobewertung. Unternehmen sollten sich deshalb frühzeitig fragen, welche Daten tatsächlich notwendig sind und welche Rückschlüsse ein System möglicherweise ziehen kann.

Welche Empfehlungen würden Sie Unternehmen für die Einführung von KI-Systemen geben?

Ich würde Betriebsräte möglichst früh in die Projekte einbeziehen – auch dann, wenn dies rechtlich nicht zwingend vorgeschrieben ist. Oft wird angenommen, Gewerkschaften oder Betriebsräte würden KI grundsätzlich kritisch gegenüberstehen. Unsere Analyse liefert jedoch ein deutlich differenzierteres Bild. Je nach Fragestellung argumentieren Arbeitnehmervertretungen sehr unterschiedlich – mal steht der Schutz der Beschäftigten im Vordergrund, mal betonen sie Chancen neuer Technologien. Gerade in Österreich gibt es eine lange Tradition der Sozialpartnerschaft. Vor diesem Hintergrund halte ich ein nachvollziehbares Bewertungssystem und einen frühzeitigen Dialog für den sinnvollsten Weg.

Woran forschen Sie derzeit?

Derzeit beschäftigt mich vor allem die Frage, wer die zukünftige Personalarbeit eigentlich gestaltet.

Im Zusammenhang mit dem AI Act haben wir gesehen, dass nicht nur Unternehmen, Politik oder Arbeitnehmervertretungen Einfluss auf regulatorische Entwicklungen nehmen. Auch Unternehmensberatungen und andere Akteure bringen sich sehr aktiv in Gesetzgebungsverfahren ein.

Das ist nachvollziehbar, denn regulatorische Veränderungen schaffen neue Beratungsfelder. Wer an der Ausgestaltung der Rahmenbedingungen mitwirkt, beeinflusst letztlich auch, wie Unternehmen künftig Personalarbeit organisieren.

Deshalb untersuchen wir in einem aktuellen Forschungsprojekt, welche Akteure moderne HR-Arbeit tatsächlich prägen. Diese Perspektive wird bislang kaum betrachtet, obwohl sie entscheidend dafür ist, wie Personalmanagement in Zukunft aussehen wird.

Interview: Bettina Geuenich