KI-Agenten entscheiden mit – doch nur 66 Prozent vertrauen ihnen

KI-Agenten wirken in Unternehmen bereits an Entscheidungen mit, doch nur 66 Prozent der befragten Entscheidungsträger vertrauen agentischer KI. Das geht aus dem am 1. September 2026 von SAS veröffentlichten Data and AI Impact Report mit Forschungsbeiträgen von IDC hervor; für die globale Erhebung wurden 2.699 Personen aus 28 Ländern befragt, die Daten- und KI-Initiativen ihrer Unternehmen kennen oder beeinflussen.

Die am 2. September veröffentlichte Einordnung von Semafor nennt den zentralen Konflikt: Fast 90 Prozent sagten, Agenten spielten in ihrer Organisation bereits irgendeine Rolle bei Entscheidungen, während das Vertrauen von 76 Prozent bei generativer KI auf 66 Prozent bei agentischer KI fällt. Eine unzureichende Erklärung wurde als Grund für das Übersteuern einer KI-Entscheidung mehr als doppelt so häufig genannt wie ein schlicht falsches Ergebnis.

Nutzung und Vertrauen entwickeln sich auseinander

Die Zahlen zeigen keinen generellen Verzicht auf KI, sondern eine Lücke zwischen Einsatz und Akzeptanz. 97,2 Prozent der Nutzer übersteuern KI-generierte Empfehlungen zumindest in manchen Fällen. Dieser Wert besagt weder, dass fast jede Empfehlung fehlerhaft ist, noch wie häufig einzelne Personen eingreifen: Er erfasst, ob ein Override überhaupt vorkommt.

Mit dem Übergang von generativer zu agentischer KI verändert sich zugleich die Tragweite. Ein generatives System erzeugt etwa einen Text oder eine Zusammenfassung, die vor der Verwendung geprüft werden kann. Ein Agent kann dagegen Aufgaben verfolgen, mehrere Arbeitsschritte verbinden, Entscheidungen vorbereiten oder – abhängig von seinen eingeräumten Rechten – Aktionen auslösen.

Das im Titel beschriebene Mitentscheiden ist daher keine einheitliche technische Stufe. Die Befragung fasst Organisationen zusammen, in denen Agenten irgendeine Entscheidungsrolle übernehmen; daraus folgt nicht, dass sie überall selbstständig verbindliche Beschlüsse fassen. Belegt ist jedoch, dass das Vertrauen mit der größeren Autonomie der untersuchten Systeme sinkt.

Fehlende Erklärungen lösen häufiger Eingriffe aus als Fehler

Der auffälligste Befund betrifft den Grund für menschliche Korrekturen. Die fehlende Erklärung einer Entscheidung wurde am häufigsten genannt – ausdrücklich unabhängig davon, ob das Ergebnis als korrekt galt. Ein formal richtiges Resultat genügt demnach nicht, wenn die verantwortliche Person seinen Zustandekommensprozess nicht nachvollziehen kann.

Damit wird Erklärbarkeit zu einer Anforderung an den Zeitpunkt der Entscheidung. Eine Begründung, die erst nach einer ausgeführten Transaktion, einer Datenänderung oder einer verbindlichen Mitteilung verfügbar ist, ermöglicht zwar nachträgliche Kontrolle, aber keine echte Freigabe vor der Wirkung. Relevant sind deshalb nicht möglichst lange technische Ausführungen, sondern die für den konkreten Vorgang maßgeblichen Eingaben, Kriterien, Unsicherheiten und Zuständigkeiten.

Die Ergebnisse belegen allerdings keine einfache Kausalität zwischen mehr Erklärung und besseren Entscheidungen. Eine plausible Begründung kann unvollständig oder irreführend sein; umgekehrt kann ein korrekt arbeitendes System schwer verständlich bleiben. Die Erhebung zeigt, was Vertrauen und Overrides beeinflusst, misst aber nicht, welche Form der Erklärung in einem bestimmten Prozess Fehler tatsächlich reduziert.

Freigabe nach Wirkung und Umkehrbarkeit staffeln

Aus dem Befund lässt sich eine betriebliche Freigabematrix ableiten. Sie ist eine redaktionelle Übertragung auf Arbeitsabläufe und kein Bestandteil der Befragung. Entscheidend sind die mögliche Wirkung einer Aktion, ihre Umkehrbarkeit und die Frage, ob eine zuständige Person die Begründung vor dem Wirksamwerden prüfen kann.

• Empfehlung: Der Agent ordnet Informationen oder schlägt eine Option vor, führt jedoch nichts aus. Eine Einzelgenehmigung kann entfallen, wenn Eingaben, Begründung und Unsicherheit erkennbar sind und die Empfehlung ohne Folgewirkung verworfen werden kann.
• Vorbereitete Entscheidung: Der Agent erstellt einen entscheidungsreifen Vorgang, beispielsweise eine Priorisierung oder einen Entwurf, der weitere Arbeitsschritte steuert. Eine menschliche Freigabe ist angezeigt, sobald Personen, Geld, Zugriffsrechte oder verbindliche Zusagen betroffen sind.
• Autonome Aktion: Der Agent verändert Daten, löst Transaktionen aus oder kommuniziert verbindlich nach außen. Folgenschwere oder schwer umkehrbare Schritte benötigen vorab festgelegte Grenzen, eine protokollierte Begründung und eine Freigabe vor der Ausführung.

Diese Abstufung trennt zwei Kontrollformen, die in Debatten über menschliche Aufsicht leicht zusammenfallen. Ein Override korrigiert oder stoppt ein Ergebnis, möglicherweise erst nachdem das System gehandelt hat. Eine Freigabe hält den Vorgang dagegen an, bis ein verantwortlicher Mensch Begründung und Folgen geprüft hat. Je größer die mögliche Wirkung, desto früher muss die Kontrolle einsetzen.

Die globale Stichprobe setzt der Übertragbarkeit Grenzen

Die Erhebung ist breit, aber nicht repräsentativ für sämtliche Beschäftigten. Eine Darstellung von Computer Weekly bestätigt 2.699 Entscheidungsträger aus 28 Ländern und vier Schwerpunktbranchen: Banken, Versicherungen, Life Sciences und den öffentlichen Sektor. Befragt wurden Menschen mit Kenntnis von oder Einfluss auf die Daten- und KI-Initiativen ihres Unternehmens.

Die veröffentlichten Zusammenfassungen weisen keine eigenen Vertrauenswerte für Deutschland, Österreich oder die deutschsprachige Schweiz aus. Ebenso fehlen Aufschlüsselungen danach, welche Entscheidungen die Agenten treffen, wie weit ihre Berechtigungen reichen und wie häufig Overrides in einzelnen Arbeitsabläufen vorkommen. Die Quote von 66 Prozent darf deshalb nicht als Leistungsurteil über einen bestimmten Agenten oder als Meinung aller Beschäftigten gelesen werden.

Fest steht bislang: Agenten sind in Entscheidungsprozesse vieler befragter Organisationen eingebunden, das ausgewiesene Vertrauen bleibt aber unter dem Wert für generative KI, und fehlende Erklärungen sind der häufigste genannte Anlass zum Eingreifen. Offen bleibt, bei welchen Branchen, Rollen und Risikoklassen eine Erklärung genügt und wann eine vorgelagerte menschliche Freigabe zwingend sein sollte. Dafür wären stärker aufgeschlüsselte Daten zu Einsatzart, Entscheidungswirkung und Kontrollzeitpunkt erforderlich.

Lesen Sie auch:

• Nvidia verdoppelt den Umsatz – doch die Lieferkette deckt nur 70 Prozent
• KI trifft Berufseinsteiger zuerst – doch die 19 Prozent beweisen keine Ursache
• Patreon kostet mehr als 10 Prozent: Diese Abzüge werden leicht übersehen