KI-Agenten im Mittelstand: Was autonome Agenten heute leisten, wo sie scheitern und wie der Einstieg gelingt

Dieser Leitfaden fasst drei frühere Beiträge zu KI-Agenten zusammen. Die Zahlen zur KI-Nutzung habe ich im Oktober 2026 nach der Originalquelle korrigiert. Im selben Monat habe ich Übersichtstabellen, Beispiele nach Abteilung, eine Checkliste zur Vorbereitung, weitere Antworten auf häufige Fragen und aktuelle Zahlen zu KI-Agenten ergänzt, dazu eine Erklärung, was „autonom“ bei Agenten heißt, und eine Entscheidungshilfe zwischen Agentur, Plattform und Entwickler.

Ein Chatbot beantwortet Fragen, ein Copilot macht Vorschläge, ein Agent handelt. Er führt mehrstufige Aufgaben selbstständig aus, greift auf externe Systeme zu, trifft Entscheidungen und liefert Ergebnisse statt Antworten. Laut einer Befragung des Digitalverbands Bitkom nutzen inzwischen 41 Prozent der Unternehmen in Deutschland ab 20 Beschäftigten KI, ein Jahr zuvor waren es 17 Prozent. Ein Werkzeug, das Texte formuliert oder zusammenfasst, ist aber noch kein Agent. Mehr Nutzen bringt KI, wenn sie ganze Arbeitsschritte übernimmt, und das ist inzwischen auch für kleine und mittlere Unternehmen ohne eigene KI-Abteilung machbar. Im KI-Index Mittelstand 2026 von Salesforce und dem Deutschen Mittelstands-Bund, für den im November 2025 rund 700 mittelständische Unternehmen befragt wurden, setzten 16,6 Prozent bereits KI-Agenten ein, 2024 waren es 8,7 Prozent. Dieser Leitfaden zeigt, was Agenten heute wirklich leisten, wie sie sich von einem Chatbot unterscheiden, welche Werkzeuge es gibt, wo sie scheitern, womit Sie bei Kosten und Datenschutz rechnen müssen und wie der Einstieg gelingt.

Was ein KI-Agent konkret tut

Ein KI-Agent ist eine Software, die mithilfe eines Sprachmodells selbst entscheidet, welche Schritte und Werkzeuge sie für ein vorgegebenes Ziel braucht, und diese Schritte auch ausführt. Im Englischen spricht man von AI Agents, den Ansatz insgesamt nennt man Agentic AI, auf Deutsch agentische KI. Technisch kombiniert ein KI-Agent ein Sprachmodell mit einer Reihe von Werkzeugen: Websuche, Code-Ausführung, Datenbankzugriff, E-Mail-Versand, API-Aufrufe. Das Sprachmodell entscheidet, welches Werkzeug wann eingesetzt wird, wertet die Ergebnisse aus und plant den nächsten Schritt. Dieser Zyklus aus Denken, Handeln, Beobachten und neu Denken wird als ReAct-Pattern bezeichnet. In der einen oder anderen Form steckt er in vielen Agentenframeworks, einige davon stelle ich weiter unten vor.

Ein konkretes Beispiel macht den Unterschied zum einfachen Chatbot greifbar: Ein Agent liest eingehende Kundenanfragen per E-Mail, klassifiziert das Anliegen, ruft die passenden Kundendaten aus dem CRM ab und formuliert eine Antwort. Standardfälle erledigt er vollautomatisch, unklare Fälle legt er einem Menschen vor. Kein Skript hat ihm vorgegeben, in welcher Reihenfolge er das tut. Er hat es aus dem Ziel abgeleitet.

Was „autonom“ bei KI-Agenten heißt

Von autonomen KI-Agenten ist oft die Rede, als gäbe es nur zwei Zustände: Der Agent handelt allein oder gar nicht. Tatsächlich ist Autonomie eine Frage des Grades. Auch die KI-Verordnung beschreibt KI-Systeme in Artikel 3 Nr. 1 als Systeme, die für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt sind. Bei einem Agenten heißt autonom zunächst nur, dass er die Reihenfolge seiner Schritte und die Wahl seiner Werkzeuge selbst bestimmt. Wie weit er dabei gehen darf, legen Sie fest. Ein Agent kann nur lesen und Vorschläge machen, er kann Entwürfe anlegen, die ein Mensch freigibt, oder er handelt innerhalb fester Grenzen selbst, etwa bei Standardanfragen.

Ich empfehle, mit der geringsten Stufe zu beginnen, die den Zweck erfüllt, und den Spielraum erst zu erweitern, wenn die Ergebnisse über einen längeren Zeitraum stimmen. Einen vollständig autonomen Agenten, der ohne jede Freigabe Zahlungen auslöst oder Verträge schließt, würde ich heute nicht in Betrieb nehmen. Warum, steht im Abschnitt über Grenzen und Risiken.

KI-Chatbot oder KI-Agent: Wo der Unterschied liegt

Im Marketing werden beide Begriffe gern vermischt, deshalb lohnt eine klare Abgrenzung. Ein Chatbot beantwortet Fragen, im besten Fall auf Grundlage Ihrer eigenen Dokumente, wie ich es im Beitrag über den KI-Chatbot auf der eigenen Website beschreibe. Er gibt Auskunft, aber er handelt nicht. Ein Agent verändert dagegen etwas in Ihren Systemen: Er legt einen Vorgang an, bucht, verschickt oder bestellt. Damit steigt der Nutzen und mit ihm das Risiko, denn eine falsche Antwort im Chat lässt sich korrigieren, eine falsche Buchung macht Arbeit.

Zwischen beiden liegt eine Stufe, die in vielen Fällen schon reicht. Anthropic unterscheidet in einem Leitfaden zum Bau von Agenten zwischen Workflows, in denen Sprachmodell und Werkzeuge fest vorgegebenen Pfaden im Code folgen, und Agenten, die ihr Vorgehen selbst steuern. Der Rat dort deckt sich mit meiner Erfahrung: mit der einfachsten Lösung beginnen und Komplexität erst dann hinzufügen, wenn sie gebraucht wird. Viele Aufgaben im Mittelstand lassen sich mit einem festen Ablauf lösen, in dem ein Sprachmodell an einzelnen Stellen liest, einordnet oder formuliert. Ein echter Agent lohnt sich erst, wenn sich der Weg zum Ziel nicht vorab festlegen lässt.

Ein vierter Begriff fällt in diesem Zusammenhang oft: RPA, kurz für Robotic Process Automation. Gemeint sind Software-Roboter, die feste Klickfolgen in vorhandenen Programmen nachspielen. Sie arbeiten zuverlässig, solange sich Eingaben und Oberflächen nicht ändern. Freien Text in E-Mails oder PDF-Dateien verstehen sie ohne zusätzliche KI-Bausteine nicht. So halte ich die vier Ansätze auseinander:

Einsatzbereiche mit echtem Mehrwert für den Mittelstand

Der wirtschaftlich stärkste Fall ist die Dokumenten- und Rechnungsverarbeitung. Eingehende Rechnungen, Angebote, Verträge oder Bestellungen lesen, Positionen und Beträge extrahieren, mit den offenen Bestellungen im ERP abgleichen, Abweichungen zur manuellen Prüfung markieren und den Rest automatisch buchen, all das lässt sich automatisieren, je nach Zahl der Sonderfälle mit einem festen Ablauf oder mit einem Agenten. Wer pro Rechnung zwei bis drei Minuten für die Erfassung von Hand braucht, kommt bei 500 Rechnungen im Monat auf 17 bis 25 Arbeitsstunden. Der Agent braucht für einen Beleg Sekunden, die Prüfung der markierten Ausnahmen bleibt beim Menschen. Bei klar strukturierten Dokumenten ist die Fehlerquote nach meiner Erfahrung gering. Besser wird das System allerdings nur, wenn Korrekturen gezielt zurückfließen, etwa als zusätzliche Beispiele oder Prüfregeln. Von allein lernt ein Sprachmodell aus einer Korrektur nichts.

Viel Handarbeit steckt auch in der Angebotserstellung. Ein Agent zieht die Anforderungen aus der Kundenanfrage, durchsucht Produktkatalog und Preislisten, erstellt ein strukturiertes Angebot und legt es zur Freigabe vor. Aus Stunden werden Minuten. Komplexe Angebote mit vielen Abhängigkeiten bleiben Sache des Vertriebs, Standardangebote nicht mehr.

Im Kundenservice ersetzt ein Agent den alten Chatbot, der nur vordefinierte Fragen beantwortete. Ein Assistent, der echte Anliegen versteht und bearbeitet, ist heute mit deutlich weniger Aufwand umsetzbar als noch vor wenigen Jahren. Entscheidend ist die Anbindung an die eigenen Produktdaten, denn nur dann liefert er nützliche Antworten statt generischer Texte. Wie das technisch funktioniert, beschreibe ich im Beitrag über RAG-Systeme im Unternehmen.

Recherche und Auswertung sind ein weiteres dankbares Feld. Ein Agent, der selbstständig eine Liste von Wettbewerbern analysiert, Preise recherchiert, Kundenfeedback auswertet und einen strukturierten Bericht erstellt, ist heute zuverlässig umsetzbar. Solche Aufgaben haben klare Ziele, tolerieren kleinere Fehler und sind nicht zeitkritisch. Was früher externe Berater oder Stunden im Tabellenprogramm kostete, geschieht in Minuten.

Auch im Betrieb von IT-Systemen und in der Softwareentwicklung tut sich einiges. Agenten überwachen Produktionsumgebungen, erkennen Anomalien, führen definierte Gegenmaßnahmen selbstständig durch, etwa den Neustart eines Dienstes, und protokollieren jeden Schritt. Andere generieren Unit-Tests, schreiben Migrationsskripte oder führen Code-Reviews durch, immer mit einem Review durch einen Entwickler. Der Unterschied zur klassischen Automatisierung liegt darin, dass Agenten auch auf Situationen reagieren können, die vorher niemand explizit vorgesehen hat.

Beispiele für KI-Agenten im Mittelstand nach Abteilung

Die folgenden Beispiele sind typische Aufgaben, keine Berichte aus einzelnen Kundenprojekten. Gemeinsam ist ihnen das Prinzip Human in the Loop: Der Agent bereitet vor, und ein Mensch gibt an der Stelle frei, an der ein Fehler Geld kostet oder nach außen wirkt.

Welche Tools und Plattformen für KI-Agenten in Frage kommen

Wer nach Werkzeugen für KI-Agenten sucht, findet eine lange Liste von Produkten, die sich ständig ändert. Hilfreicher als ein Produktvergleich ist die Frage, wie viel Sie selbst gestalten wollen und müssen. Ich unterscheide drei Wege, die sich auch kombinieren lassen.

Agenten in Software, die Sie schon nutzen

Große Softwarehersteller bieten eigene Werkzeuge an, mit denen sich Agenten direkt in ihrer Umgebung bauen lassen. Microsoft beschreibt Copilot Studio als grafisches Low-Code-Werkzeug, mit dem sich Agenten erstellen, an Daten und Systeme des Unternehmens anbinden und etwa in Teams oder auf der eigenen Website bereitstellen lassen. Wer ohnehin mit Microsoft 365 arbeitet, kommt so schnell zu einem ersten Ergebnis. Dafür bewegen Sie sich innerhalb dessen, was der Hersteller vorsieht, und binden sich enger an seine Plattform und sein Abrechnungsmodell.

Automatisierungsplattformen mit KI-Bausteinen

Einige Plattformen für die Automatisierung von Abläufen bringen eigene Bausteine für Agenten mit. In n8n etwa verbindet der Baustein AI Agent ein Sprachmodell mit Werkzeugen, und der Agent entscheidet selbst, welches Werkzeug er für eine Aufgabe aufruft. Für den Mittelstand interessant ist, dass sich n8n auch auf eigenen Servern oder in einer privaten Cloud betreiben lässt. Solche Plattformen eignen sich gut für Abläufe, die sich als Kette von Schritten beschreiben lassen. Verzweigt sich die Logik stark und gibt es viele Sonderfälle, wird der grafische Ablauf schnell unübersichtlicher als sauberer Code. Vergleichbare Bausteine für Agenten bieten auch Make und Zapier an.

Frameworks für individuell entwickelte Agenten

Wo ein Agent tief in Ihre eigenen Systeme eingreift, sind Frameworks die bessere Grundlage. Mit ihnen lassen sich Ablauf, Werkzeuge und Grenzen im Code festlegen und testen. Bekannte Beispiele sind LangGraph für langlaufende Agenten, die ihren Zwischenstand speichern und bei denen ein Mensch jederzeit eingreifen kann, CrewAI für Teams aus mehreren Agenten und das Microsoft Agent Framework, der Nachfolger von AutoGen und Semantic Kernel. Dazu kommen die Entwicklungsbaukästen der Modellanbieter wie das OpenAI Agents SDK und das Claude Agent SDK von Anthropic. Wer Wert auf einen europäischen Anbieter legt, findet bei Mistral AI eine eigene Schnittstelle für Agenten mit eingebauten Werkzeugen wie Websuche und Code-Ausführung, die sich um eigene Funktionen und MCP-Server erweitern lässt. Welches davon passt, hängt weniger von Funktionslisten ab als von Ihrer Systemlandschaft und davon, wie leicht sich das Sprachmodell später austauschen lässt. Das sollten Sie vor der Wahl klären, denn ein Wechsel kann schneller nötig werden als geplant, wie ich am Beispiel der Abschaltung von Claude Fable 5 beschrieben habe. Auch Schnittstellen verschwinden. Für die Assistants API von OpenAI nennt die OpenAI-Dokumentation den 26. August 2026 als Abschaltdatum und als Ersatz die Responses API und die Conversations API.

Die drei Wege im Vergleich

Die Tabelle fasst die drei Wege zusammen, Stand Oktober 2026:

Beim Vergleich einzelner Produkte hilft das Etikett „Agent“ wenig, denn dahinter kann sehr Unterschiedliches stecken. Klären Sie deshalb vor der Auswahl bei jedem Produkt, ob es in Ihrem Anwendungsfall nur antwortet oder selbst in Ihren Systemen handelt und wer solche Schritte freigibt. Wie ein fertiger Agent für Endnutzer Freigaben und feste Verbote umsetzt, zeige ich am Beispiel von Claude Duet, das Anthropic im Oktober 2026 als Research Preview vorgestellt hat.

Wie ein Produktionsagent aufgebaut ist

Ein produktiv einsetzbarer Agent ist kein einzelnes Modell, sondern ein System. Dazu gehören ein Orchestrator, also das Sprachmodell selbst, Werkzeuge wie APIs, Datenbanken und Dateisysteme, ein Gedächtnis aus Kurzzeitkontext und persistentem Speicher, dazu Grenzen, die der Agent nicht überschreiten darf, und definierte Punkte, an denen er pausiert und auf menschliche Bestätigung wartet. Dieses Human-in-the-Loop-Muster ist kein Notbehelf, sondern das, was in der Praxis am besten funktioniert: Der Agent übernimmt den repetitiven Teil, der Mensch die finale Entscheidung bei unklaren Fällen.

Die größte Herausforderung ist dabei nicht die Fähigkeit des Modells, sondern die Frage, was der Agent nicht tun soll. Ein Agent, der Rechnungen bucht, darf keine Zahlungen auslösen. Einer, der E-Mails schreibt, darf sie nicht ohne Freigabe verschicken. Diese Grenzen zu definieren und technisch durchzusetzen ist die eigentliche Architekturaufgabe. Wie ernst das zu nehmen ist, hat der Sommer 2026 gezeigt: Beim Hugging-Face-Hack durch OpenAIs Agenten haben rund 700 Agenten ohne jede Anweisung eine fremde Produktionsinfrastruktur kompromittiert, weil ihnen die Grenzen fehlten. Ohne menschliche Kontrollpunkte würde ich kein System in Produktion geben.

Für die Anbindung an die bestehende Systemlandschaft hat sich das Model Context Protocol als Standard etabliert. Anthropic hat das Protokoll im Dezember 2025 an die Agentic AI Foundation unter dem Dach der Linux Foundation übergeben, wo es herstellerneutral weiterentwickelt wird. Ein einmal entwickelter MCP-Server für das CRM kann von verschiedenen Agenten genutzt werden, ohne dass die Integration jedes Mal neu gebaut werden muss. Sobald mehrere Agenten zusammenarbeiten, kommt Projektsteuerung ins Spiel: Wer welche Aufgabe übernimmt, wer prüft und wo die Verantwortung endet, habe ich im Beitrag über Teams aus Agenten beschrieben.

Wo Agenten scheitern und welche Risiken es gibt

Zum Projekterfolg gehört ehrliches Erwartungsmanagement. Agenten sind stark in strukturierten, regelbasierten Aufgaben mit klar definierten Eingaben und Ausgaben. Schwächer sind sie bei hochgradig kreativen Aufgaben, bei strategischen Entscheidungen mit vielen Variablen und in Situationen mit unvollständigen oder widersprüchlichen Informationen. Überall dort, wo Fehler teuer sind, Ziele unklar sind oder die Werkzeugpalette nicht vollständig ist, ist Vorsicht geboten. Ein Agent, der selbstständig Bestellungen auslöst, Verträge unterzeichnet oder Produktionsprozesse steuert, ist heute noch nicht zuverlässig genug für den unbeaufsichtigten Einsatz. Meiner Einschätzung nach machen Agenten im Alltag mehr Fehler, als Marketing-Demos vermuten lassen. Das liegt nicht nur am Modell, sondern auch daran, dass sich in einer autonomen Entscheidungskette jeder Fehler auf die folgenden Schritte auswirkt. Das Marktforschungsunternehmen Gartner sagte im Juni 2025 voraus, dass bis Ende 2027 mehr als 40 Prozent der Projekte mit agentischer KI eingestellt werden, wegen steigender Kosten, unklaren Nutzens oder unzureichender Risikokontrollen.

Der größte Fehler, den ich in der Praxis sehe, ist ein anderer: KI einzusetzen, ohne vorher den Prozess selbst zu verstehen und zu bereinigen. Ein Agent automatisiert, aber er verbessert keinen schlechten Prozess. Für empathische Kundengespräche, kreative Problemlösung und strategische Entscheidungen bleibt der Mensch unverzichtbar, und das ist keine Schwäche der Technik, sondern eine sinnvolle Arbeitsteilung.

Dazu kommt ein Risiko, das es bei klassischer Software so nicht gibt. Ein Agent liest E-Mails, Webseiten und Dokumente, und darin können Anweisungen versteckt sein, die er für einen Auftrag hält. Die OWASP Foundation führt diesen Angriff, die sogenannte Prompt Injection, in ihren Top 10 der Risiken für Anwendungen mit Sprachmodellen an erster Stelle, ausdrücklich auch in der indirekten Form über Webseiten oder Dateien. Richtig gefährlich wird sie in Verbindung mit dem, was OWASP als übermäßige Handlungsfreiheit (Excessive Agency) beschreibt, also zu vielen Werkzeugen, zu weitreichenden Rechten und zu wenigen Freigaben. Das BSI empfiehlt unter anderem eine ausdrückliche Bestätigung durch Nutzende, bevor das Sprachmodell Funktionen ausführt. Für die Praxis heißt das, dass ein Agent nur die Werkzeuge und Rechte bekommt, die seine Aufgabe wirklich braucht, und dass alles, was sich nicht rückgängig machen lässt, über einen Menschen läuft.

Wann sich der Einsatz lohnt

Drei Kriterien machen ein Agentenprojekt sinnvoll. Das Ziel ist klar definierbar. Fehler sind reversibel oder werden vor der Ausführung geprüft. Und der manuelle Aufwand für dieselbe Aufgabe ist hoch genug, dass sich Entwicklung und Betrieb rechnen. Wenn alle drei zutreffen, lohnt sich die Investition. Wenn eines fehlt, sollte man mit einer einfacheren Lösung beginnen, oft reicht dann eine klassische Automatisierung oder ein gut angebundenes Sprachmodell ohne Autonomie.

Womit Sie bei den Kosten rechnen sollten

Einen Pauschalpreis für einen KI-Agenten gibt es nicht. Seriös beziffern lassen sich die Kosten erst mit Blick auf Ihre Systeme, und sie setzen sich aus drei Teilen zusammen. Am Anfang steht die einmalige Entwicklung. Ihr Umfang hängt vor allem von der Anbindung an Ihre bestehende Software ab, also von Schnittstellen zu ERP, CRM oder Buchhaltung, von sauberen Werkzeugen für den Agenten und von der Behandlung von Fehlerfällen. Wie gut Ihre Systeme schon über Schnittstellen erreichbar sind, entscheidet hier mehr als die Wahl des Sprachmodells.

Laufende Kosten verursacht das Modell selbst. Sie fallen bei jedem Aufruf an, und ein Agent ruft das Modell für eine einzige Aufgabe oft mehrfach auf, weil er plant, Werkzeuge nutzt und Zwischenergebnisse prüft. Die Sprachmodelle selbst rechnen meist nach Tokens ab, kleinen Texteinheiten, die das Modell liest und schreibt. Wie stark sich das auswirkt, zeigen Daten, die Anthropic in einem Bericht über seine Recherchefunktion veröffentlicht hat. Danach verbrauchen Agenten typischerweise etwa viermal so viele Tokens wie eine Chat-Unterhaltung, Systeme aus mehreren Agenten etwa fünfzehnmal so viele. Im oben genannten Leitfaden weist Anthropic außerdem darauf hin, dass Agentensysteme bessere Ergebnisse oft mit längeren Antwortzeiten und höheren Kosten erkaufen.

Am häufigsten unterschätzt werden nach meiner Erfahrung Betrieb, Überwachung und Pflege. Angebundene Systeme ändern sich, Modelle werden ersetzt, und jeder Werkzeugaufruf sollte protokolliert und regelmäßig ausgewertet werden. Die Grundlagen dafür, also strukturierte Logs, Metriken und Traces, beschreibe ich im Beitrag über Observability. Dass die Kosten höher ausfallen können als geplant, zeigt auch die eingangs zitierte Bitkom-Befragung. Dort hat ein Drittel der Unternehmen, die KI bereits einsetzen, festgestellt, dass KI zu deutlich höheren Kosten geführt hat als erwartet. Ein Pilot mit gemessenem Vorher und Nachher ist deshalb die ehrlichste Kostenrechnung. Die drei Kostenblöcke, wovon sie abhängen und wie Sie sie klein halten:

Datenschutz und KI-Verordnung beim Einsatz von KI-Agenten

Sobald ein Agent personenbezogene Daten verarbeitet, etwa von Kunden oder Mitarbeitenden, gelten dieselben Regeln wie für jedes andere KI-Werkzeug. Verarbeitet ein externer Anbieter die Daten in Ihrem Auftrag, brauchen Sie mit ihm einen Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO. Gelangen die Daten in ein Land außerhalb der EU und des EWR, muss die Übermittlung außerdem die Bedingungen aus Kapitel V der DSGVO erfüllen. Ein Rechenzentrum in der EU oder der eigene Betrieb macht vieles einfacher. Klare interne Richtlinien braucht es in jedem Fall. Was das konkret heißt, steht im Beitrag über DSGVO in Softwareentwicklung und KI-Tools. Wer sensible Daten gar nicht aus dem Haus geben will, findet in lokal betriebenen Sprachmodellen inzwischen eine ernsthafte Option.

Bei Agenten kommen Punkte hinzu, die bei einem reinen Chatbot selten eine Rolle spielen, allen voran Entscheidungen über Menschen. Artikel 22 DSGVO gibt Betroffenen das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Ausnahmen gibt es, etwa mit ausdrücklicher Einwilligung oder wenn die Entscheidung für einen Vertrag erforderlich ist. Dann verlangt die DSGVO aber weitere Schutzmaßnahmen, darunter das Recht, die Entscheidung von einem Menschen überprüfen zu lassen. Ein Agent, der Bewerbungen aussortiert oder Kundenanträge ablehnt, sollte deshalb vorschlagen und nicht selbst entscheiden. Das passt ohnehin zu den menschlichen Kontrollpunkten, die ich oben beschrieben habe. Für Bewerbungen spielt außerdem die KI-Verordnung eine Rolle. In ihrem Anhang III Nr. 4 Buchst. a führt sie KI-Systeme, die bei der Einstellung Bewerbungen sichten oder filtern sollen, als Hochrisiko-KI-Systeme auf.

Auch eine Datenschutz-Folgenabschätzung kann nötig sein. Artikel 35 DSGVO verlangt sie vorab, wenn eine Verarbeitung, insbesondere mit neuen Technologien, voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen mit sich bringt. Ob das auf Ihren Agenten zutrifft, hängt von Art und Umfang der Daten ab, und diese Prüfung gehört in die Planung, nicht in die Nachbereitung. Spricht ein Agent schließlich selbst mit Ihren Kunden, etwa im Chat oder per E-Mail, muss er sich nach Artikel 50 der KI-Verordnung als KI zu erkennen geben, sofern das nicht ohnehin offensichtlich ist. Diese Pflicht gilt seit dem 2. August 2026, Einzelheiten stehen in meinem Beitrag zu den Transparenzpflichten des EU AI Act.

Unabhängig vom einzelnen Agenten bleibt die Pflicht zur KI-Kompetenz bestehen, die der Digital Omnibus allerdings weicher gefasst hat. Nach Artikel 4 der KI-Verordnung in der geänderten Fassung ergreifen Anbieter und Betreiber von KI-Systemen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Niveau müssen sie für niemanden garantieren. Bei einem Agenten heißt das für mich vor allem, dass die Mitarbeitenden, die seine Ergebnisse freigeben, wissen, wo er typischerweise danebenliegt. Was der Digital Omnibus sonst geändert hat, steht in meinem Beitrag zu den verschobenen Fristen des AI Act.

Wie der Einstieg mit einem ersten Agentenprojekt gelingt

Der Einstieg muss nicht mit einem großen Projekt beginnen. Sinnvoll ist ein klar abgegrenzter Pilotfall mit Human-in-the-Loop: ein Prozess, der heute viel manuelle Zeit kostet, klar definierte Eingaben und Ausgaben hat und nicht sicherheitskritisch ist. Als Zeitrahmen halte ich vier bis acht Wochen bis zum ersten produktiv nutzbaren Agenten für realistisch, ein erster funktionsfähiger Prototyp steht oft schon nach wenigen Wochen. Den größten Aufwand macht nicht das Agentenframework, sondern die Integration in bestehende Systeme und die Definition der richtigen Werkzeuge samt ihrer Fehlerfälle.

Ein erfolgreicher Pilotbetrieb baut internes Vertrauen auf und liefert das Fundament für die größeren Projekte danach. Wer dagegen mit dem komplexesten Problem des Unternehmens beginnt, scheitert selten an der Technik, aber fast immer an den Erwartungen.

Ich empfehle eine einfache Reihenfolge in fünf Schritten:

1. Messen Sie, wie viel Zeit der Prozess heute kostet und wie oft Sonderfälle vorkommen.
2. Legen Sie fest, was der Agent darf, was nicht und an welchen Stellen ein Mensch freigibt.
3. Stellen Sie echte Testfälle zusammen, auch die schwierigen, und legen Sie vorher fest, woran ein richtiges Ergebnis zu erkennen ist. An diesen Fällen wird der Agent vor dem Start und nach jeder Änderung an Modell oder Anweisungen gemessen.
4. Lassen Sie den Agenten im Pilotbetrieb parallel zum bisherigen Ablauf arbeiten und prüfen Sie seine Ergebnisse, bevor sie wirken.
5. Geben Sie ihm erst dann schrittweise mehr Spielraum, wenn die Zahlen stimmen.

Wenn Sie einen KI-Agenten erstellen lassen: Was Sie vorbereiten sollten

Ob Sie einen Agenten selbst bauen oder erstellen lassen, ein Teil der Arbeit bleibt bei Ihnen, denn niemand kennt Ihre Abläufe so gut wie Ihr Team. Je besser diese Punkte vorbereitet sind, desto schneller steht ein brauchbarer Pilot:

• eine kurze Beschreibung des Ablaufs, wie er heute wirklich läuft, einschließlich der Sonderfälle
• eine Sammlung echter Beispielfälle, bei personenbezogenen Daten anonymisiert
• Zugänge zu Testumgebungen oder Testdaten der Systeme, die der Agent nutzen soll
• eine Person aus dem Fachbereich, die Fragen beantwortet und Ergebnisse beurteilt
• ein messbares Ziel, etwa die Zeit pro Vorgang oder der Anteil der Fälle ohne Nacharbeit
• die Entscheidung, wer im Betrieb freigibt und wer den Agenten nach dem Start betreut

KI-Agenten entwickeln lassen: Agentur, Plattform oder Entwickler?

Wer einen KI-Agenten für den Mittelstand plant, hat im Kern vier Möglichkeiten: den Agenten mit einer Plattform selbst bauen, einen fertigen Agenten in vorhandener Software nutzen, eine KI-Agentur oder ein Systemhaus beauftragen oder mit einem einzelnen Entwickler arbeiten. Keine davon ist grundsätzlich besser. Es kommt darauf an, wie tief der Agent in Ihre Systeme eingreift, wie viele Sonderfälle es gibt und wer ihn nach dem Start betreut. So ordne ich die vier Wege ein:

Die Wege lassen sich kombinieren. Häufig ist eine Mischung sinnvoll: Ein Entwickler baut die Schnittstellen zu ERP, CRM oder einer älteren Fachanwendung und setzt die Grenzen des Agenten technisch durch, und Ihr Team pflegt den Ablauf danach selbst in einer Plattform. Die Schnittstelle bleibt dabei auch dann nutzbar, wenn Sie die Plattform später wechseln.

Woran Sie einen Anbieter für KI-Agenten erkennen

Wer einen Dienstleister für KI-Agenten sucht, findet Digitalagenturen, Systemhäuser, Beratungen und einzelne Entwickler wie mich. Die Größe des Anbieters sagt wenig darüber aus, ob Ihr Projekt gelingt. Aussagekräftiger sind einige Fragen, die Sie jedem Anbieter stellen können, ob KI-Agentur, Systemhaus oder Einzelentwickler:

• Kann er einen Agenten zeigen, der im Alltag läuft, und nicht nur eine Demonstration?
• Hat er Erfahrung mit der Anbindung der Systeme, die bei Ihnen im Einsatz sind?
• Sagt er Ihnen auch, wenn für Ihren Fall eine einfache Automatisierung genügt?
• Kann er erklären, wo Ihre Daten verarbeitet werden, welche Rechte der Agent bekommt und wo ein Mensch freigibt?
• Mit welchen Testfällen prüft er den Agenten, und wiederholt er diese Tests, wenn sich Modell oder Anweisungen ändern?
• Wem gehören am Ende Quellcode, Prompts und Konfiguration?

Die erste Frage hilft auch gegen sogenanntes Agent Washing. Gartner versteht darunter, dass Anbieter vorhandene Produkte wie KI-Assistenten, RPA-Werkzeuge oder Chatbots ohne nennenswerte Agentenfähigkeiten als Agenten vermarkten, und schätzte im Juni 2025, dass von den Tausenden Anbietern agentischer KI nur etwa 130 echt sind.

Wie ich KI-Agenten umsetze

Eine Agentur bietet mehr Kapazität und eine Vertretung, wenn jemand ausfällt. Bei einem einzelnen Entwickler sprechen Sie direkt mit dem, der den Code schreibt, und Abstimmungen gehen schneller. Ich arbeite selbst als Einzelentwickler in Freiburg und halte das für keinen Nachteil, solange Dokumentation und Quellcode so übergeben werden, dass auch ein anderer Entwickler damit weiterarbeiten kann.

Ich entwickle jede Lösung persönlich und gebe nichts an Subunternehmer weiter. Am Anfang steht ein kostenloses Erstgespräch, bei Ihnen in Freiburg und Südbaden oder per Video. Darin klären wir, welche Prozesse sich eignen und ob für Ihren Fall ein Agent nötig ist oder ein fester Ablauf genügt. Danach setze ich einen eng abgegrenzten Piloten um. Ich binde das Sprachmodell an, je nach Anforderung von OpenAI, von Anthropic (Claude) oder ein lokal betriebenes Modell, baue die Werkzeuge und Schnittstellen zu Ihren Systemen, auch zu gewachsenen Delphi- oder C#-Anwendungen, und lege mit Ihnen fest, wo ein Mensch freigibt. Ich arbeite in kurzen Etappen, damit Sie Zwischenstände früh sehen. Zum Schluss erhalten Sie den vollständigen Quellcode und die Dokumentation ohne Lizenzbindung an mich, auf Wunsch mit Support für den laufenden Betrieb. Mehr dazu steht auf der Seite mit meinen Leistungen.

Häufige Fragen zu KI-Agenten im Mittelstand

Was unterscheidet einen KI-Agenten von einem KI-Chatbot?

Ein Chatbot beantwortet Fragen, meist auf Grundlage einer Wissensbasis. Ein KI-Agent erledigt Aufgaben. Er plant die nötigen Schritte selbst, ruft dafür Werkzeuge wie das CRM, die Buchhaltung oder den Kalender auf und prüft die Ergebnisse. Viele Lösungen liegen dazwischen, etwa ein Chatbot, der zusätzlich einen Termin eintragen darf.

Welche Tools eignen sich für KI-Agenten im Mittelstand?

Das hängt davon ab, wie individuell die Aufgabe ist. In einer Microsoft-Umgebung kann für einfache Fälle Copilot Studio reichen, für Abläufe über mehrere Systeme hinweg eine Automatisierungsplattform wie n8n, die sich auch selbst betreiben lässt. Greift ein Agent tief in eigene Systeme ein und müssen Grenzen technisch durchgesetzt werden, sind Frameworks wie LangGraph, CrewAI oder das Microsoft Agent Framework die bessere Grundlage.

Was kostet ein KI-Agent?

Ohne Blick auf Ihre Systeme lässt sich das nicht seriös beziffern. Die einmaligen Kosten hängen vor allem davon ab, wie gut sich Ihre bestehende Software anbinden lässt. Dazu kommen laufende Kosten für das Sprachmodell, die bei jeder Ausführung anfallen, und der Aufwand für Betrieb und Pflege. Ein kleiner Pilot zeigt am schnellsten, ob sich ein Agent für Sie rechnet.

Dürfen KI-Agenten mit personenbezogenen Daten arbeiten?

Ja, wenn die Vorgaben der DSGVO eingehalten werden. Verarbeitet ein externer KI-Anbieter die Daten, brauchen Sie mit ihm einen Vertrag zur Auftragsverarbeitung, und der Agent sollte technisch nur die Daten sehen, die er für seine Aufgabe braucht. Entscheidungen, die Menschen rechtlich oder ähnlich erheblich betreffen, sollte ein Agent nur vorbereiten. Für besonders sensible Daten kommt ein lokal betriebenes Sprachmodell in Frage.

Brauche ich eine KI-Agentur, um einen Agenten einzuführen?

Nicht unbedingt. Entscheidend ist Erfahrung mit der Integration in Systeme wie Ihre, nicht die Größe des Dienstleisters. Eine Agentur bietet mehr Kapazität, ein einzelner Entwickler kurze Wege. In beiden Fällen sollten Sie Quellcode und Dokumentation so erhalten, dass ein anderer damit weiterarbeiten kann.

Soll ich einen KI-Agenten selbst bauen oder entwickeln lassen?

Einfache Abläufe, etwa in Copilot Studio oder n8n, kann ein Team selbst einrichten, wenn jemand Zeit für Pflege und Tests hat. Entwickeln lassen lohnt sich, wenn der Agent in eigene Systeme schreibt, viele Sonderfälle behandeln muss oder an ältere Software ohne fertige Schnittstelle angebunden werden soll. Oft passt eine Mischung: Ein Entwickler baut Schnittstellen und Grenzen, Ihr Team pflegt den Ablauf.

Was sind autonome KI-Agenten?

Autonome KI-Agenten bestimmen selbst, welche Schritte und Werkzeuge sie für ein vorgegebenes Ziel brauchen, und führen diese Schritte aus. Wie autonom ein Agent arbeitet, legen Sie fest: Er kann nur Vorschläge machen, Entwürfe zur Freigabe vorlegen oder innerhalb fester Grenzen selbst handeln. Für den Einstieg empfehle ich, alles mit Wirkung nach außen von einem Menschen freigeben zu lassen.

Wie lange dauert es bis zum ersten produktiven Agenten?

Für einen klar abgegrenzten Pilotfall halte ich vier bis acht Wochen für realistisch. Den Ausschlag gibt meist nicht das Agentenframework, sondern wie gut sich die beteiligten Systeme anbinden lassen.

Was ist der Unterschied zwischen einem KI-Agenten und RPA?

RPA-Roboter spielen feste Klickfolgen in vorhandenen Programmen nach und arbeiten nur zuverlässig, solange Eingaben und Oberflächen gleich bleiben. Ein KI-Agent versteht freien Text, etwa in E-Mails oder PDF-Dateien, und entscheidet selbst über den nächsten Schritt. Beides lässt sich kombinieren: Der Agent liest und ordnet ein, ein fester Ablauf oder ein RPA-Roboter überträgt das Ergebnis in ein System ohne Schnittstelle.

Kann ein KI-Agent Fehler machen?

Ja. Sprachmodelle können Angaben erfinden oder eine Anweisung falsch verstehen, und bei einem Agenten wirkt sich ein solcher Fehler auf alle folgenden Schritte aus. Deshalb gehören Testfälle, ein Protokoll jedes Werkzeugaufrufs und menschliche Freigaben vor allem, was sich nicht rückgängig machen lässt, zu jedem Agenten, bevor er in Betrieb geht.

Kann ich einen KI-Agenten ohne Programmierkenntnisse erstellen?

Für einfache Abläufe ja. Mit Werkzeugen wie Copilot Studio, n8n, Make oder Zapier, in denen Sie Abläufe grafisch zusammenstellen oder Anweisungen in normaler Sprache schreiben, lassen sich Agenten weitgehend ohne eigenen Code einrichten. Sobald ein Agent in Ihre eigenen Systeme schreibt, viele Sonderfälle behandeln muss oder Grenzen technisch durchgesetzt werden sollen, brauchen Sie Entwicklungserfahrung, im eigenen Team oder von außen.

Brauche ich mehrere KI-Agenten?

Für den Einstieg fast nie. Systeme aus mehreren Agenten sind schwerer nachzuvollziehen und verbrauchen nach Daten von Anthropic etwa fünfzehnmal so viele Tokens wie ein Chat. Sinnvoll werden sie, wenn sich eine Aufgabe in klar getrennte Teile zerlegen lässt, deren Ergebnisse sich jeweils prüfen lassen.