Vom Chatbot zum Kollegen: Unser neues Agentic-AI-Whitepaper für den Mittelstand

Vom Chatbot zum Kollegen – Wie Agentic AI den Mittelstand handlungsfähig macht.

Nach unserem ersten Whitepaper „Wie der Mittelstand durch Generative AI wettbewerbsfähig bleibt" (2024) folgt jetzt der inhaltliche Nachfolger: ein 80-Seiten-Leitfaden zur nächsten KI-Stufe – Agentic AI. Während Generative KI bewiesen hat, dass Maschinen Sprache beherrschen, beweist Agentic AI, dass sie auch handeln können.

→ Whitepaper hier kostenlos herunterladen

Warum ein neues Whitepaper – und warum jetzt?

2023 bis 2025 war die Ära der Antworten. Wir haben gelernt, dass KI texten, zusammenfassen und erklären kann. Jetzt beginnt die Ära der Handlungen: Ein Agent ist ein Sprachmodell, das nicht nur antwortet, sondern Ziele verfolgt – Schritte plant, Werkzeuge aufruft, Zwischenergebnisse prüft und so lange arbeitet, bis das Ziel erreicht ist. Der Unterschied ist derselbe wie zwischen einem Beratungsgespräch und einem Kollegen, der die Aufgabe tatsächlich erledigt.

Generative KI beantwortet Ihre Frage. Agentic AI erledigt Ihre Aufgabe.

Drei Entwicklungen fallen 2025 und 2026 zusammen und machen den Sprung gerade jetzt möglich:

• Modelle, die zuverlässig Werkzeuge benutzen – moderne LLMs sind auf strukturierte Funktionsaufrufe trainiert.
• Offene Protokolle – mit MCP (Tools), A2A (Agent-zu-Agent), A2UI/AG-UI (Oberfläche) und AP2 (Zahlungen) entsteht eine herstellerneutrale Infrastruktur. Was Kubernetes für Container war, zeichnet sich nun für Agenten ab.
• Fallende Kosten – zwischen einem günstigen Open-Weight-Modell und einem Frontier-Reasoning-Modell liegt heute mehr als das Hundertfache.

Was Sie im Whitepaper erwartet

Auf rund 80 Seiten führen wir vom technischen Fundament bis zur betreibbaren Architektur – konkret, praxisnah und mit Diagrammen.

1. Grundlagen: Wie ein LLM arbeitet – und warum es halluziniert

Tokenizer, Next-Token-Prediction, Wissensstichtag – die Mechanik dahinter, damit Sie verstehen, warum RAG und Werkzeuge der entscheidende Hebel gegen Halluzinationen sind. Dazu unser Ansatz CompanyRAG: lokale Dateien, SharePoint und Nextcloud DSGVO-konform vektorisiert.

2. Anatomie eines Agenten

Fünf Bausteine genügen, um jeden Agenten zu verstehen:

1. Das Ziel des Nutzers – was erreicht werden soll
2. Der System Prompt / die Persona – die Rolle
3. Kontext & Memory – Kurzzeit (Kontextfenster) und Langzeit (Wissen, Erfahrung, Zustand)
4. Werkzeuge über MCP – die „Hände" des Agenten
5. Die Handlungsschleife – planen, handeln, beobachten, reflektieren

Inklusive eines eigenen Kapitels zu langlaufenden Agenten: Wie Sie Onboarding-, Reklamations- oder Vertriebsprozesse über Tage und Wochen durchhalten – nicht durch ein größeres Kontextfenster, sondern durch expliziten, durablen State.

3. Skills, Prompts und Selbstoptimierung

Warum Prompt Engineering überbewertet ist und Skills das eigentliche Prozessvermögen sind. Plus: Wie ein Eval-Loop mit Cross-Modell-Review (Opus prüft Gemini und umgekehrt) Skill-Bibliotheken kontinuierlich schärft.

4. Die Protokolle der Agentenwelt

Eine Landkarte der Standards, die gerade entstehen:

• MCP – für Werkzeuge und Daten
• A2A – zwischen Agenten (seit Juni 2025 bei der Linux Foundation)
• A2UI / AG-UI – generative Oberflächen (von Tabelle bis Freigabe-Button)
• AP2 / Agent Pay – wenn Agenten bezahlen (Mastercard, Google, OpenAI)
• OAuth 2.1 – die Identitätsschicht darunter

5. Agentic AI in der Praxis

Drei Beispiele aus unserer eigenen Arbeit:

• Cleo – der KI-Agent der Bestatter-Software CleverOne, deren Software sich vollständig über Agenten via MCP steuern lässt. Authentifizierung per OAuth 2.1, Human-in-the-Loop an unumkehrbaren Stellen, Eingabe per Dokument oder Sprachaufnahme.
• Agentisches Engineering bei innFactory – eine Skill-Bibliothek, die unseren gesamten Software-Workflow trägt: vom Plan-Modus bis zu parallelen Review-Agenten für Sicherheit, Qualität, Performance, Tests und Vereinfachung.
• Workflows oder Agenten? – Wann eine Automatisierung mit n8n günstiger und vorhersehbarer ist als ein Agent.

6. Autonomie als Schieberegler

Vom assistierenden Vorschlag über Human-in-the-Loop und Human-on-the-Loop bis zu Headless-Agenten. Warum für regulierte Daten Human-in-the-Loop der Standard sein muss – und Headless-Systeme wie OpenClaw oder Hermes Agent zwar faszinierend, aber etwas „für sich selbst" sind.

7. Sicherheit: die neuen Angriffsflächen

Beide aktuellen OWASP-Listen einordnen:

• OWASP Top 10 für LLM-Anwendungen (2025) – Prompt Injection, Excessive Agency, System Prompt Leakage, Vector & Embedding Weaknesses
• OWASP Top 10 für Agentic Applications (2026) – Memory Poisoning, Insecure Inter-Agent Communication, Cascading Failures, Human-Agent Trust Exploitation, Rogue Agents

Plus die Gegenmaßnahmen, die wirklich helfen: Least-Privilege über OAuth-Scopes, Human-in-the-Loop, Allowlists für gefährliche Werkzeuge, Tool-Ausgaben als Daten statt Befehle.

8. Compliance und Recht

EU AI Act, ISO/IEC 42001, DSGVO sowie § 203 StGB im Gesundheitswesen – sauber eingeordnet, mit Human-in-the-Loop als Compliance-Werkzeug. Dieses Kapitel ersetzt keine Rechtsberatung; für die rechtssichere Umsetzung arbeiten wir mit unserem Beirat und der spezialisierten Kanzlei Nörr Digitalrecht zusammen.

9. Der eigene AI-Stack: Betrieb und Kostenkontrolle

Warum die Antwort weder ein zugekaufter Copilot noch eine SaaS-Insel ist, sondern ein eigenes KI-Ökosystem mit CompanyGPT in Ihrem Azure-Tenant oder souverän auf STACKIT. Das größte Datenschutzproblem ist nicht der sorgfältig gebaute Agent, sondern das private ChatGPT auf dem privaten Smartphone – Schatten-KI, zwei Klicks entfernt. Plus: LLM-Gateway (Routing, Budgets) und Agent Gateway (Kosten je Agent und Kostenstelle).

10. Zahlen, Daten, Fakten

Ein aktueller EU-Preiskatalog von GPT-5 nano bis Opus 4.8 – mit drei Lehren: zwischen günstigstem und teuerstem Output-Token liegt mehr als das Tausendfache, Output ist durchgängig teurer als Input, und Souveränität (STACKIT/Qwen3/gpt-oss-120b) hat einen moderaten Preis. Plus die Token-Ökonomie der Agenten: warum Modell-Routing über die Rentabilität entscheidet.

Drei Überzeugungen, die sich durch das Whitepaper ziehen

1. Eigener Stack statt Schatten-KI. Das größte Risiko ist nicht der Agent, sondern das private ChatGPT auf dem privaten Smartphone Ihrer Mitarbeitenden. Die Antwort ist ein unternehmenseigenes KI-Ökosystem, das alle mitnimmt – vom Praktikanten bis zur Geschäftsführung.
2. Mensch im Steuerstand. Agentische Autonomie ist ein Schieberegler, kein Schalter. Für regulierte Prozesse gehört der Mensch an die Freigabe – nicht als Bremse, sondern als Compliance-Werkzeug.
3. Kontrolle über Kosten und Identität. Agenten verbrauchen Ressourcen und handeln im Namen von Nutzern. Beides muss messbar, abrechenbar und nachvollziehbar sein.

Künstliche Intelligenz ersetzt keine Unternehmen. Aber Unternehmen mit handelnden KI-Agenten verdrängen jene, die bei der Antwort stehen bleiben.

Für wen das Whitepaper geschrieben ist

Für Geschäftsführung, CIOs, CDOs und IT-Verantwortliche in Mittelstand und Konzernen. Es erklärt die Technik so weit, wie sie für fundierte Entscheidungen nötig ist – nicht mehr und nicht weniger.

Jetzt herunterladen

→ „Vom Chatbot zum Kollegen" – Agentic AI im Mittelstand kostenlos herunterladen

Sie finden das neue Whitepaper sowie unser bisheriges Gen-AI-Whitepaper auf unserer Whitepaper-Seite. Wenn Sie über Ihre konkrete Agentic-AI-Strategie sprechen möchten – kontaktieren Sie uns gern direkt.