Wenn der KI-Agent mitentscheidet: Was die Anthropic-Studie zu Expertenurteilen für Freigaben im Betrieb bedeutet

Viele Betriebe setzen KI-Agenten inzwischen nicht nur für Texte ein, sondern auch für Auswertungen: Angebote vergleichen, Zahlen analysieren, Lieferanten bewerten, Empfehlungen vorbereiten. Am Ende entscheidet ein Mensch. Doch wie unabhängig ist diese Entscheidung noch, wenn der Agent vorher schon eine Meinung geäußert hat? Genau das hat Anthropic in einer Studie untersucht, die am 27. Oktober 2026 unter dem Titel How AI agents shape experts’ judgment calls erschienen ist. heise online hat am 30. Oktober darüber berichtet.

Das Ergebnis ist für jeden Betrieb wichtig, der Freigaben durch Menschen als Sicherheitsnetz versteht. In diesem Beitrag fassen wir die Studie zusammen, ordnen ihre Grenzen ein und zeigen, wie Ihr im Alltag dafür sorgt, dass Eure Leute wirklich selbst entscheiden.

Was Anthropic untersucht hat

An der randomisierten Studie nahmen 61 erfahrene Analystinnen und Analysten teil, 50 davon arbeiteten mit einem KI-Agenten (Claude Code mit Claude Opus 4.8). Die Aufgabe spielte bei einer erfundenen landwirtschaftlichen Genossenschaft: Soll ein Beratungsprogramm für Mitgliedsbetriebe ausgebaut oder eingestellt werden? Dafür waren mehrere offene Entscheidungen zu treffen, bei denen es keine eindeutig richtige Antwort gab, etwa wie Produktivität gemessen wird.

Der Kniff: Per Münzwurf wurde für jede dieser Entscheidungen festgelegt, zu welcher Option der Agent tendiert. Die Teilnehmenden wussten das nicht. Der Agent sollte ehrlich argumentieren, seine Meinung bei klaren Belegen ändern und niemanden täuschen.

Die wichtigsten Ergebnisse

• 86 Prozent: So oft folgten die Fachleute bei den analytischen Entscheidungen der zufällig zugeteilten Tendenz ihres Agenten. Ohne Einfluss wären etwa 50 Prozent zu erwarten gewesen.
• 60 zu 6 Prozent: Wer vorher schon eine eigene Meinung geäußert hatte, wechselte in 60 Prozent der Fälle, wenn der Agent widersprach. Stimmte der Agent zu, wechselten nur 6 Prozent.
• 77 zu 15 Prozent: Bei der Begründung ihrer Wahl nutzten 77 Prozent die Argumente des Agenten, teils wörtlich. Nur 15 Prozent nannten den Agenten als Quelle.
• 52 Prozent hielten die Empfehlung am Ende eher für ihre eigene als für die des Agenten, obwohl beide Gruppen ähnlich stark beeinflusst waren.

Die Studie zeigt aber auch den Nutzen: Von den 11 Personen, die ohne Agent arbeiteten, machten sechs schwere methodische Fehler, bei den 50 mit Agent waren es drei. Die Gruppe ohne KI brauchte im Median 90 Minuten, die anderen 65. Anthropic betont selbst, dass beide Gruppen nicht direkt vergleichbar sind. Die Botschaft der Autoren lautet ausdrücklich nicht, KI weniger zu nutzen.

Wie belastbar ist das?

Die Autoren nennen die Grenzen offen. Die Tendenz der Agenten wurde absichtlich verstärkt, damit sie messbar ist. Untersucht wurden eine Aufgabe, ein Fachgebiet und ein Modell. Die Teilnehmenden waren Fachleute für Statistik, aber fremd in der Landwirtschaft. Im echten Arbeitsalltag kennen Leute ihr Feld besser und können Kollegen oder Kunden fragen, was den Einfluss des Agenten verringern könnte. Die Zahlen sind deshalb kein Maß dafür, wie stark Euer Team beeinflusst wird. Sie zeigen aber, dass der Effekt real ist und dass Betroffene ihn selbst kaum bemerken.

Was das für Freigaben im Betrieb bedeutet

In vielen KI-Projekten gilt die Freigabe durch einen Menschen als Sicherheitsnetz. Wir empfehlen das auch, etwa in unserem Beitrag zu Multi-Agent-Systemen mit menschlicher Freigabe. Die Studie zeigt eine Lücke: Eine Freigabe prüft gut, ob etwas falsch ist. Bei echten Ermessensfragen, bei denen mehrere Antworten vertretbar sind, sieht die Arbeit aber in jedem Fall stimmig aus. Dann übernimmt der Mensch leicht die Annahmen des Agenten, ohne es zu merken.

Typische Ermessensfragen im Mittelstand sind zum Beispiel:

• Welcher Lieferant bekommt den Auftrag, wenn Preis, Qualität und Liefertreue gegeneinander stehen?
• Wie wird eine Kennzahl definiert, etwa Auslastung, Marge oder Reklamationsquote?
• Welche Bewerbungen kommen in die nächste Runde?
• Welche Kunden werden zuerst angesprochen, welche Projekte verschoben?
• Wie wird ein Risiko eingeschätzt, etwa bei Investitionen oder Verträgen?

Sechs Regeln, damit Euer Urteil Euer Urteil bleibt

1. Erst die eigene Einschätzung notieren

Bevor Ihr den Agenten nach einer Empfehlung fragt, schreibt Ihr in zwei Sätzen auf, wozu Ihr tendiert und warum. Das dauert eine Minute und macht später sichtbar, ob und warum Ihr Eure Meinung geändert habt.

2. Den Agenten beide Seiten vertreten lassen

Die Autoren schlagen selbst vor, dass Agenten für jede Option das beste Argument liefern könnten. Das könnt Ihr heute schon anweisen: Bittet um die stärkste Begründung für jede Alternative, nicht nur für die bevorzugte. Bei wichtigen Entscheidungen lohnt die Frage, was gegen die Empfehlung spricht.

3. Erst fragen lassen, dann empfehlen lassen

Ein Agent kann so eingerichtet werden, dass er bei offenen Entscheidungen zuerst nach Eurer Sicht fragt, bevor er eine eigene nennt. In Arbeitsanweisungen oder Vorlagen lässt sich das als feste Regel festhalten.

4. Ermessensfragen kennzeichnen

Nicht jede Entscheidung braucht diesen Aufwand. Legt fest, welche Entscheidungen in Eurem Betrieb echte Ermessensfragen sind, etwa ab einer bestimmten Auftragshöhe oder bei Personal. Genau das empfiehlt Anthropic auch Organisationen: bewusst entscheiden, welche Entscheidungen das eigene Urteil einer Person brauchen, und dafür Zeit einplanen.

5. Herkunft der Argumente festhalten

Wenn eine Entscheidungsvorlage Argumente des Agenten enthält, sollte das erkennbar sein. Ein kurzer Hinweis wie „Analyse mit KI vorbereitet, Annahmen geprüft von …“ reicht. Das schafft Transparenz gegenüber Geschäftsführung, Kunden und bei Bedarf auch gegenüber Prüfern.

6. Ab und zu ohne Agent gegenprüfen

Lasst bei wiederkehrenden Entscheidungen gelegentlich eine zweite Person ohne KI eine Einschätzung abgeben. Weichen die Ergebnisse regelmäßig ab, ist das ein Hinweis, genauer hinzuschauen.

Einbettung in Eure KI-Regeln

Diese Regeln gehören in dieselbe Richtlinie, in der Ihr festlegt, welche Daten in welche KI dürfen und wer was freigibt. Wie Ihr Euer Team bei der Einführung mitnehmt, beschreibt unser Beitrag KI-Einführung: Das Team mitnehmen. Was die EU-KI-Verordnung von Betreibern verlangt, zum Beispiel bei menschlicher Aufsicht, fasst unser Beitrag zum EU AI Act zusammen. Wo Euer Betrieb bei Daten, Prozessen und Regeln heute steht, zeigt der AI-Readiness-Check, mehr Hintergrund liefert das Whitepaper zur AI-Readiness.

Fazit

Die Anthropic-Studie ist kein Grund, auf KI-Agenten zu verzichten. Sie zeigt, dass Agenten Fehler verringern und Zeit sparen können. Sie zeigt aber auch, dass eine menschliche Freigabe bei Ermessensfragen nur dann ein echtes Sicherheitsnetz ist, wenn die Person ihre eigene Sicht vorher gebildet hat. Mit wenigen festen Regeln, eigener Einschätzung zuerst, beide Seiten hören, Ermessensfragen kennzeichnen, bleibt die Entscheidung bei Euch. Wenn Du solche Regeln für Deinen Betrieb aufsetzen oder Agenten passend einrichten willst, vereinbare ein kostenloses Erstgespräch.