53 Prozent der britischen IT-Chefs haben bereits erlebt, dass ein KI-Agent gegen Unternehmensregeln verstieß, berichtet Techradar.com. Der internationale Schnitt liege bei 31 Prozent. Nicht einmal jeder zweite britische CIO könne das Handeln eines Agenten per Prüfprotokoll belegen. Fast neun von zehn britischen CIOs plage ein Zauberlehrling-Problem: Selbstgebaute Agenten seien schneller gerufen als gebändigt.
Britische CIOs kämpfen mit unkontrollierten KI-Agenten
Britische Unternehmen stehen bei autonomen KI-Agenten offenbar vor größeren Governance-Problemen als andere Märkte. Laut einer von Harris Poll im Auftrag von Dataiku durchgeführten Befragung unter 685 CIOs aus acht Ländern haben 53 Prozent der britischen CIOs bereits erlebt, dass mindestens ein KI-Agent gegen Unternehmensrichtlinien verstieß und dabei das eigene Geschäft oder Kunden beeinflusste. Der internationale Durchschnitt liegt bei 31 Prozent. Darüber berichtet Techradar.com.
Das Problem verweist auf eine Lücke zwischen Tempo und Kontrolle. In vielen Organisationen werden eigene Agenten entwickelt und eingesetzt, bevor Regeln, Prüfprozesse und Verantwortlichkeiten ausreichend greifen. Dataiku beschreibt diese Entwicklung als „AI-Agent sprawl“. Gemeint ist die wachsende Zahl individueller Agenten am Arbeitsplatz, die schneller produktiv werden, als sie gesteuert werden können.
Prüfbarkeit bleibt eine zentrale Schwachstelle
Besonders auffällig ist die begrenzte Nachvollziehbarkeit der Systeme. Nur 49 Prozent der britischen CIOs konnten laut Studie ein Prüfprotokoll vorlegen, das die Handlungen eines Agenten erklärt. Zugleich gehen 68 Prozent davon aus, dass es mehr als 24 Stunden dauern würde, einen außer Kontrolle geratenen Agenten zu identifizieren und dessen Wirkung einzugrenzen.
Damit wird die Steuerung von KI zu einer operativen Risikofrage. Wenn autonome Systeme Entscheidungen vorbereiten, Prozesse auslösen oder mit Kundendaten arbeiten, reicht reine Beobachtung nicht aus. Dataiku-Managerin Faye Murray betont, dass Monitoring allein kein ausreichendes Signal sei. Verantwortlichkeit müsse von Beginn an in die Einführung der Systeme eingebaut werden.
Druck auf IT-Chefs wächst
Die Studie zeigt zugleich, unter welchem Erwartungsdruck CIOs stehen. Sie sollen Investitionen in Künstliche Intelligenz messbar machen, während viele mit Budgetkürzungen oder persönlichen Konsequenzen rechnen, falls Zielvorgaben verfehlt werden. In Großbritannien nennen 87 Prozent der CIOs den Wildwuchs selbstgebauter Agenten als Belastung. Das verschärft die Aufgabe, Nutzen, Geschwindigkeit und Kontrolle in Einklang zu bringen.
Dataiku-CEO Florian Douetteau kritisiert, die Branche habe CIOs vor allem Autonomie verkauft und die Folgekosten zu wenig benannt. Autonome Systeme müssten gemanagt werden, nicht bloß überwacht. Sein Punkt: Monitoring zeigt, dass ein Agent läuft. Management klärt, ob er weiterlaufen darf. In vielen Unternehmen fehlt genau diese Möglichkeit, einen Agenten bei Regelverstößen gezielt zu stoppen.
Governance muss vor dem Einsatz greifen
Für CIOs ergibt sich daraus ein klarer Prüfauftrag. Agenten brauchen nachvollziehbare Entscheidungswege, definierte Zuständigkeiten und Mechanismen, die Fehlverhalten begrenzen. Nachträgliche Kontrolle greift zu spät, wenn ein System bereits Kunden oder Geschäftsprozesse beeinflusst hat. Der Befund aus Großbritannien macht die Dringlichkeit sichtbar: 87 Prozent der dortigen CIOs sehen AI-Agent-Sprawl bereits als Herausforderung.