Der „AI Assessment Effect“: Wenn KI menschliches Verhalten verändert

Automatisierte CV-Analysen, Chatbots, Video-Interviews und Matching-Algorithmen: Künstliche Intelligenz im Recruiting entwickelt sich rasant. Doch wie wirkt sich künstliche Intelligenz auf Kandidat:innen und damit auf den Recruiting-Prozess als Ganzes aus?

Das haben Forschende der Universitäten St. Gallen und Rotterdam in einer Studie mit dem Titel „AI assessment changes human behavior“ untersucht. Dafür entwickelten sie diverse Szenarien, darunter simulierte Bewerbungsprozesse und College-Aufnahmeverfahren. Des Weiteren führten sie Untersuchungen in kontrollierten Online-Umgebungen durch. Die Szenarien und experimentellen Rankings waren dabei so konzipiert, dass Menschen glaubten, entweder von einer KI oder einem Menschen bewertet zu werden.

Die Studie mit über 13.000 Teilnehmenden liefert Beweise für den sogenannten „AI Assessment Effect“, auch: KI-Bewertungseffekt. Der Effekt basiert darauf, dass Menschen ihr Verhalten systematisch ändern, sobald sie glauben, dass bei ihrer Bewertung künstliche Intelligenz beteiligt ist. Das Ergebnis: Selbst dann, wenn es keinerlei Hinweise auf das gewünschte Verhalten gibt, stellen sich Bewerbende bei dem Einsatz von künstlicher Intelligenz analytischer und weniger intuitiv oder emotional dar.

Warum passiert das? Die Rolle von Erwartungen gegenüber KI

Der wichtigste Treiber dieses Effekts ist eine verbreitete Annahme: Zwar ist moderne KI zunehmend in der Lage, emotionale Hinweise einzuordnen. Trotzdem überwiegt der Glaube, dass KI vor allem analytische Eigenschaften bewertet und das Intuitive vernachlässigt. In der Studie sprechen die Forschenden in diesem Zusammenhang von einem laienhaften KI-Verständnis, dem „analytical priority lay belief“. Dieses Verständnis wirkt sich signifikant auf das Verhalten von Bewerbenden und damit auf das Recruiting im Allgemeinen aus.

Was die Forschung zeigt – 7 wichtige Erkenntnisse

Aus der Studie ergeben sich sieben Erkenntnisse, die grundlegend dafür sind, wie Personalverantwortliche und Recruiter:innen künstliche Intelligenz zukünftig in Bewerbungs- und Auswahlprozesse einbinden sollten:

1. Menschen präsentieren sich anders, sobald KI im Spiel ist: In einer Feldstudie auf Upwork beschrieben sich Bewerbende selbst als analytischer, wenn sie dachten, dass eine KI die Bewerbung liest.
2. Dieses Verhalten tritt konsistent über verschiedene Kontexte auf: Ob Hochschulbewerbung, simuliertes Bewerbungsgespräch oder echte Freelance-Ausschreibung – überall zeigten sich ähnliche Muster.
3. KI wirkt sich auf Verhaltensentscheidungen aus: In Aufgaben, bei denen Personen Eigenschaften nach Wichtigkeit sortieren mussten (z. B. analytisch vs. intuitiv), wählten sie unter KI-Bewertung analytische Merkmale weiter oben.
4. Der Effekt wirkt unabhängig von Bewerbungsszenarien oder Aufnahmeverfahren: Menschen wichen unter KI-Bewertung grundsätzlich stärker von ihrem „normalen“ Selbstbild ab als unter menschlicher Bewertung – auch dann, wenn sie sich nicht in einem aktiven Aufnahme- oder Bewerbungsszenario befanden.
5. Verhalten beeinflusst die finale Auswahl: Simulationen zeigen: Je nach Auswahlkriterium würden bis zu 27 % der Bewerbenden nur dann ausgewählt, wenn die Bewertung durch eine KI stattfindet und umgekehrt.
6. Transparente Kommunikation reduziert den Effekt: Wenn Bewerbende in der Studie aufgefordert wurden, eigene Annahmen über KI zu hinterfragen oder das Gegenteil anzunehmen, verschwand oder kehrte sich der Effekt teilweise um.
7. Sind Menschen im Auswahlprozess involviert, schmälert das den Effekt: Wurden die Teilnehmenden darüber informiert, dass KI zwar beteiligt ist, aber ein Mensch final entscheidet, blieb die analytische Selbstpräsentation verstärkt, war aber weniger stark ausgeprägt als bei einer ausschließlichen Bewertung durch KI.

Was bedeutet das für Unternehmen?

Für Unternehmen, die künstliche Intelligenz ohne entsprechende Gegenmaßnahmen in Auswahlprozessen einsetzen, hat das negative Konsequenzen. Passen Bewerbende ihre Antworten systematisch an und verfälschen so ihre Denk- und Handlungsmuster, führt das zu verzerrten Assessment-Daten. Die Folge: Unternehmen entscheiden sich falsch für oder gegen Kandidat:innen. Wählt die KI also Bewerbende aus, die sich verstellen, stimmen deren tatsächlichen Stärken nicht mit den Anforderungen des Unternehmens überein – was wiederum zu potenziellen Fehlbesetzungen führt.

Durch die Verhaltensänderung Bewerbender können darüber hinaus ungleiche Chancen bei der Bewertung durch KI entstehen. Denn gerade Gruppen, die stärker versuchen Erwartungen zu erfüllen, könnten ihr Verhalten besonders stark verändern: Darunter beispielsweise jüngere Kandidat:innen sowie Personen, die grundsätzlich mehr Angst vor negativen Bewertungen haben.

Die gute Nachricht: Schon mit einfachen Maßnahmen wirken Unternehmen dem entgegen.

Was können Unternehmen ändern? 5 Handlungsempfehlungen für das Recruiting

Auf Basis der Studienergebnisse und den daraus folgenden Konsequenzen für Unternehmen, eignen sich folgende Strategien, um verfälschtes Verhalten von Bewerbenden während KI-basierter Auswahlprozesse einzugrenzen:

1. Erwartungen an KI optimieren

Statt pauschal mitzuteilen, dass künstliche Intelligenz entscheidet, sollten Unternehmen transparent kommunizieren, welche Kriterien die KI bewertet, wie analytische und intuitive Merkmale gewichtet werden und dass, falls zutreffend, auch emotionale Aspekte  relevant sind. Diese Informationen reduzieren falsche Annahmen von Bewerbenden gegenüber dem Einsatz von künstlicher Intelligenz. Die Studie zeigt, dass gezielte Hinweise über die Fähigkeiten der KI den analytischen Bias reduzieren oder sogar neutralisieren. Auch Regulierungen wie der EU AI Act sehen vor, dass Unternehmen den Einsatz von KI in Bewerbungsprozessen so transparent wie möglich kommunizieren.

2. Menschen transparent in den Auswahlprozess einbeziehen

Da die Verbindung von menschlichen und KI-basierten Entscheidungen systematisches Verhalten von Bewerbenden reduziert, ist es sinnvoll KI beispielsweise nur in einem Bereich, wie etwa dem Screening einzusetzen. Die Analyse und Interpretation erfolgt dann von Personalverantwortlichen. Menschen transparent einzubinden, etwa in ein abschließendes Bewerbungsgespräch kann hilfreich sein, um den „AI Assessment Effect“ zu reduzieren. Grundsätzlich geht es jedoch um transparente Kommunikation, bei der Bewerbende zu jedem Zeitpunkt wissen, wo und wie entweder künstliche Intelligenz oder Menschen bewerten und entscheiden.

3. Aufgaben anpassen

Die Studie zeigt, dass Bewerbende vor allem Aufgaben an die künstliche Intelligenz anpassen, bei denen sie sich selbst präsentieren oder beschreiben. Deshalb kann es hilfreich sein, Aufnahmeverfahren um Verhaltenstests, Arbeitsproben, strukturierte Interviews oder um  Simulationen zu ergänzen. Diese Aufgaben lassen sich weniger leicht verfälschen und vermitteln einen authentischeren Eindruck davon, wie Kandidat:innen wirklich denken, handeln und arbeiten.

4. Systeme und Auswahlprozesse prüfen

Um dauerhaft gute Personalentscheidungen zu gewährleisten, sollten Unternehmen ihre Systeme und Auswahlprozesse kontinuierlich überprüfen. Dabei gilt es zu beantworten, ob KI-Systeme bestimmte Selbstdarstellungsmuster überbewerten, ob und wie sich Profile von Kandidat:innen verschieben und wie sich das später auf deren Arbeitsweise auswirkt.

5. Auswahlprozesse mit datenbasierten Candidate-Personas optimieren

Ein wirkungsvolles Werkzeug für KI-gestützte Recruiting Prozesse ist der Einsatz von Candidate Personas. Sie unterstützen Unternehmen dabei, unterschiedliche Persönlichkeiten von Bewerbenden, ihre Erwartungen, Motivationen und mögliche Reaktionen auf KI-basierte Auswahlverfahren zu verstehen. So erkennen Recruiter:innen vorab welche Kandidat:innen sensibel auf automatisierte Prozesse reagieren, welche Tonalität, Vertrauen stärkt oder bei welchen Touchpoints, menschliche Entscheidungsträger stärker eingebunden werden sollten. Auf dieser Basis können Unternehmen KI-basierte Auswahlprozesse so gestalten, dass sie effizient, psychologisch wirksam, fair und zielgruppenspezifisch sind.

Fazit: KI beeinflusst das Verhalten der Menschen, die sie bewertet

Die wichtigste Erkenntnis der Studie lautet: KI verändert nicht nur, wie Unternehmen, Kandidat:innen ansprechen und auswählen. KI beeinflusst, wie sich Kandidat:innen verhalten. Bewerbende richten sich also nach vermeintlichen Bewertungskriterien der KI – oft auf Basis falscher Vorstellungen. Daraus entstehen Verzerrungen, die Unternehmen aktiv adressieren und minimieren müssen, um auch in Zukunft sinnvolle Personalentscheidungen zu treffen. Die beiden wichtigsten Voraussetzungen dafür: KI sollte neben technischen und rationalen Aspekten auch emotionale Signale in Entscheidungen miteinbeziehen – und Unternehmen sollten dies transparent kommunizieren. Mit datenbasierten Candidate Personas liefert das Persona Institut Anhaltspunkte dafür, wie Unternehmen KI-basierte, faire und authentische Auswahlprozesse gestalten.