KI-Agenten: Wie diszipliniert man diese brillanten, aber instabilen neuen Kollegen?

Dieser Gastbeitrag von Ghislain de Pierre, KI-Experte bei Wavestone, erschien im Mai in La Tribune (open in a new tab).

Ob Start-up mit dem Ziel, den Vertrieb zu automatisieren, oder Großkonzern, der seine Prozesse in Kundenservice, Logistik oder Personalwesen optimieren möchte – KI-Agenten, also Algorithmen, die eigenständig Aufgaben übernehmen können, die bisher Menschen vorbehalten waren, versprechen einen echten Mehrwert.

Im Fahrwasser der generativen KI

Der aktuelle Hype ist eng verknüpft mit den Fortschritten generativer KI und Sprachmodelle, die heute nahezu perfekt natürliche Sprache verstehen und erzeugen können – und damit auch die Recherche in umfangreichen Dokumenten deutlich erleichtern.

Das Prinzip der Agentenarchitektur ist einfach: Ein komplexer Prozess wird in einzelne Aufgaben zerlegt, die jeweils spezialisierten, oft miteinander vernetzten KIs zugewiesen werden.
Ein Beispiel: Bei der Beantwortung einer Ausschreibung extrahiert eine KI die wichtigsten Informationen, ein generativer Chatbot interagiert mit den Dokumenten, ein Prognosemodell schlägt Preise vor, und eine weitere KI erstellt einen ersten Entwurf der Antwort. Schnell, effizient – aber noch nicht fehlerfrei.

Die Vision ist stark – die Umsetzung anspruchsvoll

Zahlreiche begeisterte Stimmen berichten bereits von Erfolgen mit KI-Agenten in Bereichen wie Marktbeobachtung, Kommunikation oder Marketingkampagnen. Diese Prozesse eignen sich gut zur Automatisierung: Sie sind risikoarm und basieren häufig oft auf großen Datenmengen, ein Umstand, der die Unzuverlässigkeit mancher KI-Systeme abfedern kann.

In komplexeren Fällen, insbesondere in großen Unternehmen“ statt „bei großen Unternehmen mit hohen Qualitätsansprüchen, liegt die Messlatte jedoch höher. Hier ist der Mensch weiterhin unverzichtbar, um emotionale, situative und teils irrationale Faktoren zu berücksichtigen, die sich bislang kaum in Algorithmen abbilden lassen.

Hochintelligent und übertrainiert – aber instabil

Wer möchte Mitarbeitende mit einem IQ von 150 führen, die ihre Entscheidungen nicht erklären, keine Fehler eingestehen und keine moralische Konsistenz garantieren können? Genau das beschreiben die heutigen KI-Agenten. Selbst Entwickler wie Dario Amodei (Anthropic) geben zu, ihre Funktionsweise nicht vollständig zu verstehen – denn diese Modelle lernen selbstständig, indem sie sich an Eingabedaten anpassen.

Können wir diesen Agenten also wirklich kritische Unternehmensprozesse anvertrauen? Ja – aus drei Gründen:

• Agile Wettbewerber machen es bereits vor. Unternehmen wie Qonto (Finanzen) oder Alan (Gesundheitsversicherung) nutzen KI, um ihre Branchen neu zu gestalten. Große Unternehmen dürfen hier nicht den Anschluss verlieren.
• KI-Agenten sind zunehmend in Standardlösungen integriert. Wer seine Prozesse im Griff behalten will, muss verstehen, wie diese Systeme funktionieren.
• Trotz ihrer Schwächen übertreffen sie uns in vielen Bereichen – etwa bei Lesegeschwindigkeit, Übersetzung, Anomalieerkennung oder der Vorhersage komplexer Phänomene.

KI-Agenten verstehen – wie unsere Mitarbeitenden

Wie menschliche Mitarbeitende müssen auch KI-Agenten ausgewählt, geschult und betreut werden. Dazu gehört, Geschäftsprozesse in Einzelschritte zu zerlegen, jene zu identifizieren, die eine unvollständige Automatisierung verkraften, und den Menschen gezielt dort einzubinden, wo sein Urteilsvermögen entscheidend ist.

Das erfordert eine klare Governance: Datenqualität, Technologieentscheidungen (Anbieter, Plattform, Open Source), kontinuierliche Überwachung – und vor allem die frühzeitige Einbindung der Fachbereiche.

Die eigentliche Transformation wird nicht allein durch Algorithmen erfolgen, sondern durch unsere Fähigkeit, Organisation und Arbeitsweisen rund um sie neu zu denken. Die Governance von KI wird wohl das nächste große Projekt für viele Unternehmen sein.