KI-Agenten sind Systeme, die ein Ziel erhalten, selbst Schritte planen und dafür Werkzeuge nutzen. Das klingt nach dem digitalen Mitarbeiter. In der Praxis ist die wichtigste Frage aber, wie viel Freiheit ein Prozess überhaupt verträgt.
Agent oder Workflow?
Ein Workflow folgt festen Schritten und ist gut prüfbar. Ein Agent entscheidet selbst, welchen Weg er nimmt. Das hilft bei unklaren Aufgaben, macht das Ergebnis aber schwerer vorhersehbar. Unsere Faustregel: So fest wie möglich, so frei wie nötig. Oft ist ein Workflow mit einzelnen KI-Schritten die bessere Wahl.
Gute Einsatzfelder
- Recherche und Zusammenfassungen
- Vorbereitung von Entwürfen und Angeboten
- Einordnen und Vorsortieren unstrukturierter Eingänge
- Unterstützung in der Softwareentwicklung
Kontrolle einbauen
- Rechte eng begrenzen: nur das, was der Agent wirklich braucht
- Kritische Aktionen wie Versand oder Zahlungen vom Menschen freigeben lassen
- Jeden Schritt protokollieren
- Grenzen setzen für Laufzeit und Kosten
- Mit Entwürfen starten, nicht mit automatischem Versand
Sicherheit
Agenten verarbeiten oft fremde Inhalte wie Mails oder Webseiten. Darin können versteckte Anweisungen stehen, sogenannte Prompt Injections. Behandeln Sie Eingaben deshalb als unsicher und erlauben Sie dem Agenten keine weitreichenden Aktionen allein auf dieser Basis.
So starten Sie
Wählen Sie eine Aufgabe mit überschaubarem Schaden im Fehlerfall, messen Sie die Qualität an echten Beispielen und erweitern Sie die Freiheiten erst, wenn das System sich bewährt hat.
Freiheit in Stufen vergeben
Ob ein System „ein Agent“ ist, ist keine Ja-oder-Nein-Frage. Praktischer ist es, in Stufen zu denken und jede Stufe erst zu verlassen, wenn sie sich bewährt hat. Nehmen wir einen Anlagenbauer, der eingehende Angebotsanfragen vorbereiten lassen will. Auf der ersten Stufe liest der Agent nur und fasst zusammen. Auf der nächsten recherchiert er in Altangeboten und Produktdaten und legt einen Entwurf vor. Später darf er vielleicht Rückfragen an Kunden vorschlagen oder Vorgänge im CRM anlegen. Den Versand des fertigen Angebots behält weiterhin ein Mensch in der Hand.
Entscheidend für den Aufstieg sind nicht beeindruckende Einzelfälle, sondern der Nachweis über viele Vorgänge. Vereinbaren Sie vorher, welche Bilanz der Agent mit seinen Entwürfen vorweisen muss, damit er mehr Handlungsspielraum erhält. Halten Sie außerdem fest, wie Sie ihn wieder zurückstufen, falls sich die Qualität verschlechtert.
Gute Werkzeuge sind der halbe Agent
Was ein Agent anrichten oder leisten kann, hängt stark von seinen Werkzeugen ab, also den Funktionen, die er aufrufen darf. Die Qualität dieser Werkzeuge wird oft unterschätzt. Beachten Sie beim Entwurf:
- Lesende und schreibende Funktionen klar trennen und einzeln freigeben
- Enge Funktionen statt allgemeiner Zugriffe, also „Kundenadresse abrufen“ statt beliebiger Datenbankabfragen
- Verständliche Beschreibungen und Fehlermeldungen, denn der Agent muss damit arbeiten
- Schreibende Aktionen so bauen, dass eine Wiederholung keinen doppelten Vorgang erzeugt
- Eigene, eingeschränkte Zugangsdaten statt des Kontos einer Person
Die Berechtigung sollte sich am System durchsetzen lassen. Eine Anweisung im Prompt, bestimmte Daten nicht zu ändern, ist kein Schutz. Ein Zugang, der nur lesen darf, schon.
Halten Sie die Zahl der Werkzeuge zudem überschaubar. Je mehr ähnliche Funktionen zur Auswahl stehen, desto leichter greift der Agent zur falschen.
Wie Agenten scheitern
Agenten versagen anders als klassische Workflows. Ein Workflow bricht meist mit einer Fehlermeldung ab. Ein Agent liefert dagegen oft ein plausibel aussehendes Ergebnis auf einem falschen Weg. Typisch sind Schleifen, in denen er dasselbe wieder und wieder versucht, die Wahl eines unpassenden Werkzeugs oder eine eigenmächtige Annahme, wenn eine Information fehlt. Ein Agent, der keinen Lieferanten findet, nimmt dann vielleicht einfach den ähnlichsten Namen.
Geben Sie ihm deshalb ausdrücklich die Möglichkeit, aufzuhören und nachzufragen. Das sollte ein vorgesehener und gut bewerteter Ausgang sein. Protokollieren Sie nicht nur das Ergebnis, sondern jeden Schritt, jedes genutzte Werkzeug und jede Begründung, sonst lässt sich ein Fehler später kaum nachvollziehen.
Testen, wenn der Weg nicht festliegt
Weil derselbe Auftrag auf unterschiedlichen Wegen bearbeitet werden kann, genügt ein einzelner Testlauf nicht. Lassen Sie typische Aufgaben mehrfach laufen und vergleichen Sie die Ergebnisse. Bewerten Sie nicht nur die Antwort, sondern auch den Weg, also welche Werkzeuge aufgerufen wurden und wie viel Laufzeit nötig war. Ergänzen Sie den Testsatz um schwierige Fälle mit fehlenden oder widersprüchlichen Angaben und um manipulierte Eingaben. Nutzen Sie für schreibende Aktionen eine Testumgebung, und wiederholen Sie die Tests, sobald sich Modell, Anweisungen oder Werkzeuge ändern.
Autonomiestufen und was sie erfordern
| Stufe | Was der Agent darf | Was Sie dafür brauchen |
|---|---|---|
| Assistieren | Lesen, zusammenfassen, Hinweise geben | Lesezugriffe und Stichproben |
| Entwerfen | Entwürfe anlegen, die ein Mensch freigibt | Protokolle und ein einfacher Freigabeschritt |
| Handeln mit Freigabe | Aktionen vorbereiten, nach Bestätigung ausführen | Schreibrechte je Funktion und Testumgebung |
| Handeln in engen Grenzen | Risikoarme, umkehrbare Aktionen selbst ausführen | Bewährte Bilanz, Überwachung, Limits, Stopp-Möglichkeit |
Vor dem ersten Agenten im Echtbetrieb
Typische Fehler
Sie bezahlen dann für Freiheit mit weniger Vorhersagbarkeit und höherem Testaufwand. Prüfen Sie zuerst, ob sich der Ablauf als feste Schritte mit einzelnen KI-Bausteinen abbilden lässt.
Anweisungen können missverstanden oder durch fremde Inhalte unterlaufen werden. Setzen Sie Grenzen über Berechtigungen, Freigaben und technische Limits durch.
Ein richtiges Ergebnis kann durch Zufall oder über einen riskanten Weg entstanden sein. Prüfen Sie auch die einzelnen Schritte anhand der Protokolle.
Häufige Fragen
Was ist der Unterschied zwischen einem Chatbot und einem KI-Agenten?
Ein Chatbot beantwortet vor allem Fragen im Gespräch. Ein Agent verfolgt ein Ziel, plant Schritte und nutzt dazu Werkzeuge, etwa um Daten abzurufen oder Vorgänge anzulegen. Die Grenzen sind in der Praxis fließend.
Wer haftet, wenn ein KI-Agent einen Fehler macht?
Die Verantwortung liegt in der Regel beim Unternehmen, das ihn einsetzt, die Einzelheiten hängen aber vom Fall und von Verträgen ab. Klären Sie das bei kritischen Abläufen rechtlich und behalten Sie folgenreiche Entscheidungen beim Menschen.
Sind KI-Agenten sicher genug für den Einsatz im Unternehmen?
Das hängt vor allem von Aufgabe, Rechten und Kontrollen ab. Mit engen Berechtigungen, menschlichen Freigaben und guter Protokollierung lässt sich das Risiko deutlich senken, ganz ausschließen lässt es sich nicht.
Von Patrick Thomas, KI Sidekick. Dieser Artikel ersetzt keine Rechts- oder Steuerberatung.
