Analysen
KI-Agenten im Unternehmen: was sie sind, was sie können und wie man sie sicher einführt
Ein KI-Agent ist ein System, in dem ein Sprachmodell die Schritte einer Aufgabe und die Wahl der Werkzeuge selbst steuert, statt einem festgelegten Ablauf zu folgen. Die Länge der Software-Aufgaben, die führende Modelle mit 50 % Erfolgsquote lösen, verdoppelt sich seit 2019 etwa alle sieben Monate. Am besten funktionieren Agenten dort, wo Aufgaben strukturiert, Ergebnisse überprüfbar und Fehler begrenzt oder umkehrbar sind.142
Agent, Workflow und Chatbot — der Unterschied in einem Satz
Im Workflow sind Sprachmodell und Werkzeuge über einen festgelegten Ablauf verbunden; im Agenten steuert das Modell seine Schritte und die Werkzeugwahl selbst1. Das BSI beschreibt einen KI-Agenten als Software-System, das unter Umständen mit erweiterten Zugriffsrechten auf Basis eines großen Sprachmodells eigenständig Aktionen ausführt3. In der Praxis ergänzen sich beide Ansätze: Wo Schritte vorhersehbar sind, ist ein Workflow günstiger und leichter zu kontrollieren.
Wie schnell die Fähigkeiten von Agenten wachsen
Das Institut METR misst die Länge der Aufgaben, die Modelle mit 50 % Erfolgsquote abschließen4. Seit 2019 verdoppelt sich dieser Horizont etwa alle sieben Monate4; laut Aktualisierung von 2026 hat sich das Tempo seit 2024 auf eine Verdopplung etwa alle 89 Tage beschleunigt5. METR betont aber, dass vor allem Software-Aufgaben gemessen werden und der Wert nicht direkt sagt, welche Aufgaben man an KI abgeben kann6.
Wo sich Agenten in Unternehmen bewähren
Aus Interviews der OECD mit Organisationen, die Agenten einführen, geht hervor: Kurzfristig funktionieren sie dort, wo eine Aufgabe strukturiert genug ist, um sie zu planen, das Ergebnis mit verlässlichen Daten abgeglichen werden kann und ein Fehler begrenzt oder umkehrbar ist2. Das deckt sich mit unserer Erfahrung: Der Agent erstellt einen Bericht, ordnet Anfragen oder pflegt ein Aufgabenregister — die Entscheidung mit Folgen bleibt beim Menschen.
Wie viele Unternehmen Agenten schon nutzen
| Studie | Basis | Nutzt Agenten | Plant es |
|---|---|---|---|
| Bitkom, 2026 (603 Unternehmen ab 20 Beschäftigten) | Unternehmen, die KI nutzen, planen oder diskutieren | 11 % | 29 %7 |
| BSI und TÜV-Verband, 2026 (505 Unternehmen) | Unternehmen, die KI nutzen | 5 % | 8 %8 |
Die Ergebnisse unterscheiden sich, weil die Studien unterschiedliche Unternehmensgruppen befragt haben — deshalb nennen wir sie getrennt und nicht als eine Zahl.
Risiken, die adressiert werden müssen
OWASP zählt übermäßige Handlungsbefugnis zu den zentralen Risiken von Anwendungen mit Sprachmodellen: Zu viele Funktionen, Rechte oder zu viel Autonomie ermöglichen schädliche Aktionen als Reaktion auf unerwartete oder manipulierte Modellausgaben9. Das zweite Risiko ist Prompt Injection über externe Inhalte, etwa Webseiten oder Dateien, die der Agent liest10.
Für Hochrisiko-Systeme verlangt die KI-Verordnung eine wirksame menschliche Aufsicht; nach den Änderungen von 2026 gelten diese Anforderungen für Systeme nach Anhang III ab dem 2. Dezember 202711.
So führen Sie einen Agenten kontrolliert ein
- Geben Sie dem Agenten nur die Rechte, die er für die Aufgabe braucht.
- Aktionen mit großer Tragweite — Zahlungen, Versand an Kunden, Änderungen in Systemen — lassen Sie von einem Menschen freigeben.
- Behandeln Sie externe Inhalte (Webseiten, E-Mails, Dateien) als nicht vertrauenswürdig und trennen Sie sie von Anweisungen.
- Protokollieren Sie jeden Schritt, damit nachvollziehbar bleibt, was der Agent getan hat und warum.
- Messen Sie die Qualität auf einem Testset aus echten Fällen, bevor der Agent in Produktion geht.
Häufige Fragen
Was unterscheidet einen KI-Agenten von einem Chatbot?
Ein Chatbot beantwortet Fragen. Ein Agent plant und erledigt die Schritte einer Aufgabe selbst und nutzt dabei Werkzeuge — etwa Daten aus einem System holen, auswerten und das Ergebnis ablegen.1
Wie viele Unternehmen in Deutschland nutzen KI-Agenten?
Laut Bitkom 11 % der Unternehmen, die KI nutzen, planen oder diskutieren; laut KI-Sicherheitsstudie von BSI und TÜV-Verband 5 % der Unternehmen, die KI nutzen. Die Studien befragen unterschiedliche Gruppen und sind nicht direkt vergleichbar.78
Darf ein KI-Agent ohne Aufsicht arbeiten?
Bei Aktionen mit großer Tragweite sollte er das nicht. OWASP empfiehlt, solche Aktionen vor der Ausführung von einem Menschen freigeben zu lassen. Für Hochrisiko-Systeme verlangt die KI-Verordnung ab dem 2. Dezember 2027 eine wirksame menschliche Aufsicht.911
Erledigt ein Agent jede Aufgabe, die kürzer ist als sein „Zeithorizont“?
Nein. METR, das diesen Horizont misst, stellt klar, dass ein Ergebnis von X Stunden nicht bedeutet, dass sich Aufgaben unter X Stunden an KI delegieren lassen; gemessen werden vor allem Software-Aufgaben.6
Quellen
- Anthropic: Building effective agents
- OECD: Agentic AI in organisations: Early insights from practitioner interviews (OECD AI Papers No. 65)
- Bundesamt für Sicherheit in der Informationstechnik (BSI): KI-Agenten
- METR / arXiv: Measuring AI Ability to Complete Long Software Tasks (Kwa et al., arXiv:2503.14499)
- METR: Time Horizon 1.1
- METR: Clarifying limitations of time horizon
- Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI
- BSI und TÜV-Verband (Feldarbeit: forsa): KI-Sicherheitsstudie 2026
- OWASP GenAI Security Project: LLM06:2025 Excessive Agency
- OWASP GenAI Security Project: LLM01:2025 Prompt Injection
- EUR-Lex: Rozporządzenie (UE) 2026/1744 (Digital Omnibus on AI)