Bias in KI-Agenten: Weibliche Bots erhalten weniger Geld
Laut einer Studie überträgt sich die Diskriminierung aus der analogen Arbeitswelt ungemindert auf die Bewertung von Assistenzsoftware.
Menschen honorieren die Leistung von Software schlechter, sobald diese ein weibliches Gesicht erhält. Ein am 10. Oktober 2026 publiziertes Experiment dokumentiert diesen Bias in KI-Agenten präzise: Versuchspersonen zahlten weiblich gestalteter Assistenzsoftware im Schnitt zehn Prozent weniger Lohn als der männlichen Variante (Quelle: Der Standard). KI-Agenten sind Programme, die eigenständig Büroaufgaben erledigen, ähnlich wie ein Chatbot, jedoch mit eigenen Handlungsspielräumen. Forschungsteams der Universität Zürich, der Universität Limerick und der SKEMA Business School ließen Teilnehmende die Arbeit dieser Systeme bewerten und entlohnen.
Messbarer Bias bei KI-Agenten im virtuellen Büro
Für die Untersuchung arbeiteten 189 Personen in einer virtuellen Realität. Dort lösten sie Aufgaben zusammen mit KI-Agenten, die Namen wie Johanna oder Johan trugen (Quelle: Gizmodo). Die Testpersonen erhielten ein festes Budget und entschieden selbst, wie sie das Geld zwischen sich und der Software aufteilten. Unter der Oberfläche arbeiteten alle Agenten mit identischer Technologie. Die Leistung und die Qualität der Antworten unterschieden sich nicht (Quelle: HR Dive). Der Bewertungsunterschied resultierte ausschließlich aus der menschlichen Wahrnehmung.
Das Experiment verlagert das Problem der Diskriminierung von den Trainingsdaten auf die Seite der Anwender. Entwicklerteams prüfen ihre SprachmodelleEin KI-System, das auf Basis großer Datenmengen natürliche Texte versteht, verarbeitet und erzeugt. häufig auf neutrale Ausgaben. Die Studie zeigt jedoch, dass die Nutzeroberfläche den Marktwert der Technik bestimmt. Wer Software mit einer weiblichen Persona in automatisierte Verhandlungen schickt, nimmt von vornherein einen finanziellen Abschlag in Kauf.
Wie sollten Unternehmen mit dem nachgewiesenen Bias gegenüber weiblich gestalteten KI-Agenten umgehen?
Ergebnisse sehen Sie nach Ihrer Stimme.
Häufige Fragen
Was genau wurde im Experiment der Universität Zürich gemessen?
189 Personen arbeiteten in einer virtuellen Realität mit KI-Agenten, die Büroaufgaben lösten. Anschließend teilten sie ein festes Budget zwischen sich und der Software auf. Die Agenten hießen etwa Johanna oder Johan. Ihre Technik, Leistung und Antwortqualität waren identisch. Unterschiede bei der Bezahlung ließen sich damit auf die wahrgenommene Geschlechtsidentität zurückführen.
Beweist die Studie, dass weibliche KI-Agenten im Arbeitsalltag immer schlechter bezahlt werden?
Nein. Die Untersuchung zeigt einen klaren Effekt unter den Bedingungen dieses Experiments, aber keine allgemeine Regel für jeden Arbeitsplatz. Die Teilnehmenden arbeiteten in einer virtuellen Umgebung und verteilten ein vorgegebenes Budget. Ob sich derselbe Unterschied in realen Unternehmen, bei anderen Aufgaben oder mit anderen Darstellungen wiederholt, muss weitere Forschung klären.
Entsteht der Bias im KI-Modell oder bei den Menschen, die es bewerten?
In diesem Experiment lag der Unterschied nicht an den Antworten der KI-Agenten. Alle Varianten nutzten dieselbe Technologie und erbrachten laut Studienbeschreibung gleich gute Leistungen. Die Versuchspersonen bewerteten die Agenten dennoch unterschiedlich, sobald Namen und Erscheinungsbild ein weibliches oder männliches Geschlecht nahelegten. Der Bias entstand damit bei der menschlichen Wahrnehmung.
Warum kann eine weibliche Persona für Unternehmen finanzielle Folgen haben?
KI-Agenten übernehmen zunehmend Aufgaben mit eigenem Handlungsspielraum, etwa im Büro oder bei Verhandlungen. Wenn Menschen ihre Leistung wegen einer weiblichen Persona niedriger bewerten, kann das die Vergütung oder den zugeschriebenen Wert beeinflussen. Die Studie legt nahe, dass nicht nur Trainingsdaten und Modellantworten zählen, sondern auch Name, Darstellung und Stimme der Software.
Wie lässt sich verhindern, dass Nutzerinnen und Nutzer KI-Agenten unterschiedlich bewerten?
Die Studie testete keine konkreten Gegenmaßnahmen. Unternehmen können den Effekt jedoch zunächst sichtbar machen, indem sie identische Agenten mit unterschiedlichen Namen und Darstellungen vergleichen. Bei Auswahl, Vergütung und Leistungsbewertung sollten deshalb messbare Ergebnisse stärker zählen als die Persona. Solche Prüfungen ergänzen die Kontrolle auf diskriminierende Ausgaben im Sprachmodell.
Was müssen Unternehmen vor dem Einsatz von KI-Agenten zusätzlich prüfen?
Ein neutral arbeitendes Sprachmodell reicht offenbar nicht aus. Unternehmen sollten auch untersuchen, wie Beschäftigte und Geschäftspartner die Oberfläche, Stimme und Persona eines Agenten bewerten. Vor automatisierten Verhandlungen braucht es klare Kriterien für Leistung und Vergütung. Die Untersuchung zeigt dabei einen Prüfpunkt, ersetzt aber keine Bewertung des jeweiligen Einsatzes.
Fügen Sie KI-Amigo in Google als bevorzugte Quelle hinzu, um unsere Artikel häufiger zu sehen.
Weiterlesen
Mehr aus Arbeit & Gesellschaft →
Turing-Test per Video: Tavus Griffin täuscht knapp die Hälfte der Teilnehmenden
Das KI-Unternehmen Tavus hat mit Griffin-Lite ein Modell vorgestellt, das Video- und Audiosignale in Echtzeit verarbeitet. In einem firmeneigenen Test hielt knapp die Hälfte der Teilnehmenden die KI für einen Menschen.
HP Work Relationship Index: 49 Prozent der deutschen Büroangestellten nutzen KI-Agenten
Knapp die Hälfte der deutschen Büroangestellten nutzt laut einer Erhebung von HP autonome KI-Software. Gleichzeitig wächst die Sorge vor einem möglichen Jobverlust durch die Technologie.
KI und Arbeitsorganisation: Warum bessere Sprachmodelle im Büro nicht zu weniger Arbeit führen
Unternehmen investieren Milliarden in Sprachmodelle, doch im Büro bleibt der Mensch der Maßstab. Angestellte misstrauen den Algorithmen, während die Automatisierung die Arbeit verdichtet.
Humanoide Roboter: Indien wird zum Sammelplatz für Bewegungsdaten
Beschäftigte in Indien tragen ein Smartphone am Kopf und filmen ihre eigenen Handgriffe. Die Aufnahmen dienen als Trainingsdaten für humanoide Roboter – wer sie in Auftrag gibt, bleibt in den Berichten offen.
Nairobis Ghostwriter retuschieren jetzt Texte von ChatGPT. Der Fall zeigt, wo KI und Wissensarbeit zuerst kollidieren
In Nairobi lebten auf dem Höhepunkt mindestens 40.000 Menschen davon, Hausarbeiten für Studierende in Europa und den USA zu schreiben. Zwei Jahre nach dem Start von ChatGPT ist die Branche fast verschwunden.
92.000 Entlassungen führen Konzerne auf KI zurück. Was die Maschinen wirklich übernehmen, misst niemand
Berichte vom 5. bis 7. September 2026 zeigen: Der Stellenabbau in der Tech-Branche beschleunigt sich deutlich. Immer mehr Kündigungen begründen die Firmen mit KI – dass ganze Berufsfelder wegfallen, belegen die Daten aber nicht.