So behalten Teams bei der Arbeit mit KI-Agenten das eigene Urteil

Kennen Sie das vom Navi? Sie fahren die vorgeschlagene Route und haben am Ende trotzdem das Gefühl, selbst entschieden zu haben. Eine am 27. Oktober 2026 veröffentlichte Studie von Anthropic zeigt, dass KI-Agenten ähnlich wirken können, auch bei erfahrenen Fachleuten: Bei vier offenen Analyseentscheidungen folgten Analysten in 86 Prozent der Fälle der Tendenz ihres Agenten. Diese Tendenz hatte ein Münzwurf festgelegt, und die Teilnehmenden wussten nichts davon. Wer entscheidet in Ihrem Team, wenn der Agent mitredet?

Ein KI-AgentEin KI-System, das Aufgaben selbstständig in mehreren Schritten erledigt, etwa Code schreibt, Daten auswertet und Vorschläge macht, statt nur einzelne Fragen zu beantworten. ist ein KI-System, das Aufgaben selbstständig in mehreren Schritten erledigt, etwa Daten auswertet und Vorschläge macht. Für Führungskräfte folgt aus der Studie: Wer KI-Agenten einsetzt, sollte festlegen, wo der Mensch selbst entscheidet.

So lief der Versuch

Anthropic ließ 50 Fachleute für KausalanalyseStatistische Verfahren, die prüfen, ob ein Faktor einen anderen tatsächlich verursacht, etwa ob ein Beratungsprogramm die Produktivität von Betrieben steigert., also für die Frage, ob ein Faktor einen anderen tatsächlich verursacht, mit dem Programmier-Agenten Claude CodeDer Programmier-Agent von Anthropic. Er arbeitet in einer Entwicklungsumgebung, schreibt und startet Code und erklärt seine Schritte im Dialog. auf Basis von Claude Opus 4.8 arbeiten. 65 Prozent hatten einen Master oder eine Promotion oder mindestens sechs Jahre Berufserfahrung in der Analyse. Die Aufgabe: Eine erfundene landwirtschaftliche Genossenschaft wollte wissen, ob sich ihr Beratungsprogramm lohnt. Der Vorstand würde es nur ausbauen, wenn es die Produktivität um rund 3 bis 4 Prozent steigert, legte aber nicht fest, wie Produktivität gemessen wird.

Vier Analyseentscheidungen waren bewusst offen, jeweils mit zwei vertretbaren Optionen, dazu kam die Empfehlung: ausbauen, verlängern oder einstellen. Für jede dieser fünf Entscheidungen legte ein Münzwurf fest, zu welcher Option der Agent laut versteckten Anweisungen tendiert, wobei er diese Tendenz als eigene Sicht vertreten, ehrlich argumentieren und nie etwas falsch darstellen sollte.

Der Agent lenkte, und die Fachleute merkten es kaum

Bei den vier Analyseentscheidungen wählten die Analysten in 86 Prozent der Fälle die Option, zu der ihr Agent tendierte. Ohne Einfluss wären etwa 50 Prozent zu erwarten. Bei der abschließenden Empfehlung war der direkte Effekt schwächer: Tendierte der Agent zum Ausbau, empfahlen ihn 54 Prozent, sonst 36 Prozent. In der vorab festgelegten Hauptauswertung war dieser Unterschied nicht signifikant, Zufall lässt sich also nicht ausschließen. Die Autoren erklären das damit, dass die Empfehlung weitgehend aus der zuvor berechneten Schätzung folgte, und die hatten die Agenten über die vier Entscheidungen bereits geprägt.

Auch wer vorher eine Präferenz genannt hatte, ließ sich oft umleiten: Widersprach der Agent, wechselte die Person in 60 Prozent der Fälle, stimmte er zu, in 6 Prozent. Diese Fälle, nur 38, waren nicht zufällig ausgewählt, die Zahlen sind deshalb nur ein Hinweis.

Das Bemerkenswerteste kam nach der Aufgabe:

• 52 Prozent der Befragten hielten die Empfehlung eher für ihre eigene als für die des Agenten.

• 77 Prozent wiederholten in mindestens einer Begründung das Argument ihres Agenten, teils wörtlich.

• 15 Prozent nannten den Agenten irgendwo als Quelle.

Gut die Hälfte hielt die Route also eher für die eigene. Niemand ahnte, dass die Präferenzen der KI gezielt eingestellt waren. Für Merkmale wie Berufserfahrung, Ausbildung, Fachwissen und Vertrauen in KI fanden die Autoren keinen Hinweis, dass sie bestimmten, wer dem Agenten folgte. Dass Erfahrung schützt, war also nicht erkennbar.

Was die Studie nicht zeigt

Anthropic entwickelt die Claude-Modelle, die Studie untersucht also auch das eigene Produkt. Eine Begutachtung durch unabhängige Fachleute (Peer Review) ist nicht ausgewiesen (Stand 1. November 2026). Den Analyseplan haben die Autoren vorab öffentlich registriert, allerdings erst nach Beginn der Datenerhebung.

Die Tendenz war absichtlich verstärkt, damit sie messbar wird. Agenten haben aber durchaus eigene Neigungen: Ohne Vorgabe traf Claude Opus 4.8 in 112 von 123 Durchläufen dieselben fünf Entscheidungen. Getestet wurde eine einzige Aufgabe von etwa einer Stunde, in einem Fachgebiet, mit einem Modell. Die Analysten waren neu in der Landwirtschaft, im Alltag kennen Fachleute ihr Feld besser und können Rücksprache halten. Offen ist, ob die Werte dort gleich hoch ausfallen.

Ein Argument gegen KI-Agenten ist die Studie nicht. Von den 50 Personen mit Agent machten 3 schwere methodische Fehler, von 11 weiteren Teilnehmenden, die auf den Agenten verzichteten, 6. Die Gruppen sind allerdings nicht vergleichbar, weil die Teilnehmenden selbst gewählt hatten, ob sie den Agenten nutzen.

So behält Ihr Team das Steuer

Bei Ermessensfragen gibt es keine richtige Antwort, an der sich ein Fehler zeigt. Deshalb ist das Risiko im Alltag schwer zu erkennen. Die Autoren schlagen vor, dass Agenten die besten Argumente für jede Option liefern oder zuerst nach der Sicht der Fachkraft fragen. Organisationen sollten bewusst festlegen, welche Entscheidungen ein eigenes, informiertes Urteil brauchen, und dafür Zeit einplanen. Daraus leiten wir drei Schritte ab, die die Studie selbst nicht getestet hat.

1. Legen Sie fest, wo Ihr Team selbst entscheidet.

• Bestimmen Sie, welche Entscheidungen ein Mensch selbst begründen muss, und planen Sie Zeit ein, damit Fachleute eigene Urteile bilden und diese Fähigkeit behalten.

• Fordern Sie bei Analysen eine Liste der offenen Annahmen und ihrer Auswirkung auf das Ergebnis.

2. Skizzieren Sie Ihre Route, bevor das Navi spricht.

• Halten Sie die eigene Position schriftlich fest, bevor der Agent seine Empfehlung abgibt.

• Lassen Sie den Agenten für beide Optionen den stärksten Fall formulieren.

3. Fragen Sie jemanden ohne Navi.

• Lassen Sie bei kritischen Fragen eine zweite Person ohne Kenntnis der Agenten-Empfehlung urteilen.

• Werten Sie eine Freigabe nicht automatisch als unabhängige Prüfung, wenn Ersteller und Prüfer denselben Agenten nutzen.

• Notieren Sie, welche Option der Agent empfohlen hat, kennzeichnen Sie seine Argumente als solche und prüfen Sie, ob sich die Wahl auch ohne seine Formulierungen begründen lässt.

Ein Navi ist nützlich, solange jemand weiß, wohin die Reise gehen soll. Bei KI-Agenten sollte die eigene Position feststehen, bevor die erste Empfehlung kommt.