Über KI wird gesprochen, als würde das Modell alles allein erledigen: Claude schreibt den Code, GPT beantwortet die Kundenanfrage, Gemini analysiert den Vertrag. Tatsächlich ist das Modell nur ein Teil des Systems. Die eigentliche Arbeit wird erst möglich durch die Software um das Modell herum – den AI Harness, oft auch Agent Harness genannt.
Ohne Harness ist selbst das beste Modell ein Gehirn im Glas: Es kann brillant denken, aber nichts anfassen – keine Datei, kein System, keinen Prozess. Dieser Beitrag erklärt, was ein AI Harness ist, aus welchen Bausteinen er besteht, warum er über die Qualität eines KI-Agenten messbar mitentscheidet – und warum wir CompanyGPT als unseren Harness und AI-Stack für Unternehmen verstehen.
Was ist ein AI Harness?
Ein AI Harness ist die Software um ein Sprachmodell herum, die es arbeitsfähig macht: Sie steuert die Schleife, in der das Modell Kontext sammelt, handelt und Ergebnisse überprüft, stellt Werkzeuge und eine Ausführungsumgebung bereit, verwaltet Kontext und Zustand und setzt Berechtigungen durch.
Der Begriff „Harness“ – wörtlich Geschirr oder Gurtzeug – beschreibt es gut: Er gibt der Kraft des Modells eine Richtung und verbindet sie mit der Umgebung, in der sie wirken soll. Der Begriff ist kein Marketingwort, sondern in der Praxis angekommen. Anthropic bezeichnet Claude Code in der eigenen Dokumentation als agentischen Harness um Claude, der Werkzeuge, Kontextmanagement und Ausführungsumgebung liefert, und das Claude Agent SDK als den Harness, der Claude Code antreibt. In der Benchmark-Welt ist dafür auch das ältere Synonym Scaffold oder Scaffolding gebräuchlich.
Das Beispiel Claude Code: Modell und Harness getrennt betrachtet
Claude ist das Modell. Claude Code ist der Harness darum. Der Unterschied wird an einer typischen Aufgabe sichtbar: „Finde den Fehler in diesem Repository, behebe ihn, führe die Tests aus und stelle sicher, dass nichts anderes bricht.“
Das Modell kann über diese Aufgabe nachdenken. Es kann aber von sich aus keine Datei öffnen, das Repository nicht durchsuchen, keinen Terminalbefehl ausführen, keine Testsuite starten und keinen Code auf der Festplatte ändern. Diese Fähigkeiten liefert der Harness:
- Das Modell entscheidet: „Ich muss zuerst diese Dateien ansehen“ und erzeugt eine strukturierte Werkzeuganfrage.
- Der Harness prüft, ob die Aktion erlaubt ist, liest die Dateien und legt das Ergebnis zurück in den Kontext des Modells.
- Das Modell denkt erneut: „Der Fehler liegt vermutlich in dieser Funktion“ und bittet den Harness, die Datei zu ändern und die Tests auszuführen.
- Der Harness führt den Befehl in seiner Ausführungsumgebung aus; die Testausgabe landet wieder im Kontext.
- Das Modell sieht, dass ein Test fehlschlägt, überlegt warum, ändert den Code erneut und lässt die Tests noch einmal laufen – bis das Ergebnis überprüft ist.
Diese Schleife ist der Kern: Kontext sammeln, handeln, überprüfen, wiederholen. Das Muster, Denkschritte mit Aktionen und Beobachtungen zu verschränken, geht auf die Forschungsarbeit ReAct zurück. Das Modell liefert das Reasoning. Der Harness liefert die Fähigkeit, mit einer realen Umgebung zu interagieren. Was ein KI-Agent grundsätzlich ist, haben wir im Beitrag KI-Agenten: Was ist das eigentlich? beschrieben – der Harness ist die technische Antwort auf die Frage, wie aus der Definition ein funktionierendes System wird.
Die sieben Bausteine eines Harness
Werkzeuge sind nur ein Teil. Über die gängigen Beschreibungen hinweg wiederholen sich sieben Bausteine, die zusammen entscheiden, wie gut ein Agent arbeitet.
1. Die Agentenschleife
Der Harness ruft das Modell auf, wertet dessen Werkzeuganfragen aus, führt sie aus, gibt die Ergebnisse zurück und entscheidet, wann Schluss ist: Aufgabe erledigt, Schrittlimit erreicht, Rückfrage an den Menschen nötig. Ohne diese Steuerung gibt es keinen Agenten, nur eine einzelne Antwort.
2. Werkzeuge und Ausführungsumgebung
Dateien lesen, Systeme abfragen, Befehle ausführen, Dokumente erzeugen: Jede Fähigkeit des Agenten ist ein Werkzeug, das der Harness anbietet und in einer kontrollierten Umgebung – häufig einer Sandbox – ausführt. Mit dem Model Context Protocol (MCP) gibt es dafür einen offenen Standard, der seit Dezember 2025 unter dem Dach der Agentic AI Foundation der Linux Foundation weiterentwickelt wird.
3. Kontextmanagement
Prompt, Gesprächsverlauf, geöffnete Dateien, Werkzeugergebnisse, Anweisungen – all das muss in das begrenzte Kontextfenster des Modells passen. Anthropic nennt die Disziplin dahinter Context Engineering und beschreibt konkrete Techniken: alte Werkzeugausgaben entfernen, Verläufe verdichten, strukturierte Notizen führen, Informationen erst dann nachladen, wenn sie gebraucht werden. Die Arbeit verteilt sich dabei auf drei Rollen: Entwickler kuratieren Instruktionen und Werkzeuge, der Harness verdichtet und räumt auf, das Modell schreibt Notizen und fordert Inhalte gezielt an.
4. Zustand und Gedächtnis
Eine Aufgabe, die länger dauert als ein Kontextfenster, braucht ein Gedächtnis außerhalb des Modells: Sitzungsprotokolle, Fortschrittsdateien, Checkpoints, gespeicherte Präferenzen. Anthropics Beitrag zu Harnesses für lang laufende Agenten zeigt, dass genau diese Zustandsführung darüber entscheidet, ob ein Agent nach einer Unterbrechung sinnvoll weiterarbeitet.
5. Berechtigungen
Ein Agent darf vielleicht Dateien frei lesen, braucht aber eine Freigabe, bevor er einen riskanten Befehl ausführt. Er darf Code ändern, aber nicht ohne Bestätigung in die Produktion ausrollen. Diese Regeln setzt der Harness durch, nicht das Modell – so hält es auch die Claude-Code-Dokumentation fest. Dahinter liegen weitere Schichten: die Sandbox der Ausführungsumgebung und die Rechte der angebundenen Zielsysteme.
6. Verifikation und Feedback
Ein guter Harness lässt das Modell seine Arbeit überprüfen: Tests ausführen, Ergebnisse gegen Vorgaben halten, einen zweiten Agenten als Prüfer einsetzen, Freigaben durch Menschen einholen. Erst diese Rückkopplung macht aus „hat etwas getan“ ein „hat es richtig getan“.
7. Orchestrierung
Komplexe Aufgaben bestehen aus Teilen. Ein Agent untersucht das Backend, ein zweiter das Frontend, ein dritter prüft die Tests. Der Harness stellt dafür Sub-Agenten mit eigenem Kontextfenster, eigenen Werkzeugen und eigenen Rechten bereit; zurück kommt eine verdichtete Zusammenfassung, sodass der Hauptkontext sauber bleibt.
Häufig zählen auch Systeminstruktionen, Fehlerbehandlung mit Wiederholungen sowie Protokollierung und Tracing dazu.
Gleiches Modell, anderer Harness, anderes Ergebnis
Dass der Harness mehr ist als Beiwerk, lässt sich messen. Anthropic wies schon bei der Veröffentlichung eigener SWE-bench-Ergebnisse darauf hin, dass die Leistung je nach Scaffolding deutlich schwanken kann – selbst bei identischem Modell. Die Studie „Stop Comparing LLM Agents Without Disclosing the Harness“ (Zhang et al., 2026) trägt dazu Zahlen zusammen:
- Auf Terminal-Bench 2 steigt ein unverändertes Modell allein durch Verbesserungen am Harness von 69,7 auf 77,0 Prozent.
- Auf SWE-bench Verified Mini liegt dasselbe Modell je nach Harness bei 68 oder bei 34 Prozent.
- Auf SWE-bench Pro liegen die sechs führenden Modelle unter einem einheitlichen Harness nur 4,9 Prozentpunkte auseinander – ein Wechsel des Harness bei festem Modell bewegt das Ergebnis um 9,5 Punkte.
Die Schlussfolgerung der Autoren: Wer Agenten vergleicht, ohne den Harness zu nennen, vergleicht nicht die Modelle. Für Unternehmen heißt das: Die Wahl des Harness ist mindestens so folgenreich wie die Wahl des Modells.
Ein Harness ist dabei kein Dauerzustand. Er enthält Annahmen über die Stärken und Schwächen der Modelle, und diese Annahmen veralten, wenn Modelle besser werden. Ein Harness muss also gepflegt werden – auch das ist ein Argument dafür, ihn als Produkt zu betrachten und nicht als einmaliges Projekt.
Harness, Framework, Scaffold, Eval-Harness: eine Abgrenzung
Die Begriffe werden oft durcheinander verwendet. Eine nützliche Einordnung liefert LangChain in „Agent Frameworks, Runtimes, and Harnesses“:
| Begriff | Bedeutung |
|---|---|
| Harness | Fertiger, meinungsstarker Software-Mantel um das Modell – sofort einsetzbar, mit Werkzeugen, Kontextlogik und Schleife |
| Framework / SDK | Abstraktionen, um Agenten und Harnesses selbst zu bauen |
| Runtime | Dauerhafte, zustandsbehaftete Ausführung lang laufender Agenten |
| Scaffold / Scaffolding | Älteres Synonym für Harness, vor allem bei Benchmarks |
| Orchestrator | Eine Rolle innerhalb eines Harness, die Teilaufgaben verteilt – nicht der Harness selbst |
| Evaluation-Harness | Etwas anderes: ein Testrahmen, der Modelle auf Benchmarks prüft, etwa der lm-evaluation-harness |
Die Grenzen sind fließend, das räumen die Autoren selbst ein. Für die Praxis genügt eine Frage: Bekomme ich ein System, das arbeitet – oder Bausteine, aus denen ich eines bauen muss?
Vom Entwickler-Harness zum Unternehmens-Harness
Claude Code ist ein Harness für eine sehr spezielle Umgebung: ein Repository, ein Terminal, ein Entwickler. Dasselbe gilt für Codex, Pi, GitHub Copilot und weitere Coding-Agenten, die wir in unserer Übersicht der KI-Harnesses einzeln nach den sieben Bausteinen beschreiben. Ein Unternehmen ist eine andere Umgebung – und stellt an den Harness zusätzliche Anforderungen:
- Die Werkzeuge sind Fachsysteme. Nicht Git und Testsuite, sondern ERP, CRM, DMS, SharePoint, E-Mail und Fachverfahren.
- Der Kontext ist Unternehmenswissen. Nicht der Inhalt eines Repositories, sondern Richtlinien, Verträge, Handbücher und Projektakten – verteilt über viele Quellen.
- Berechtigungen folgen Rollen. Nicht ein Nutzer mit einem Terminal, sondern hunderte Mitarbeitende mit unterschiedlichen Rechten, die aus dem bestehenden Verzeichnisdienst stammen müssen.
- Governance ist Pflicht. Wer hat wann welches Modell mit welchen Daten genutzt? DSGVO und EU AI Act verlangen Antworten, die ein Harness mit Audit-Logs geben kann.
- Das Modell muss austauschbar bleiben. Modellgenerationen wechseln im Quartalstakt. Ein Unternehmen kann nicht bei jedem Wechsel seine Integrationen, sein Wissen und seine Rechte neu aufbauen.
Der letzte Punkt ist strategisch der wichtigste: Modelle sind austauschbar, der Harness bleibt. Wer heute in Integrationen, Wissensaufbereitung und Rechtekonzepte investiert, investiert in den Harness – und kann das jeweils passende Modell darunter wählen. Wie diese Wahl nach Abteilung aussehen kann, zeigt unser Beitrag Claude oder ChatGPT für Unternehmen.
CompanyGPT ist unser Harness – und der Kern Ihres AI-Stacks
Genau diese Rolle übernimmt CompanyGPT. Es ist kein weiteres Modell und kein einzelner Chatbot, sondern der Harness, der Sprachmodelle in Ihrem Unternehmen arbeitsfähig macht. Die sieben Bausteine lassen sich direkt zuordnen:
| Harness-Baustein | In Claude Code | In CompanyGPT |
|---|---|---|
| Agentenschleife | Schleife im Terminal | Agenten-Laufzeit in der Chat-Oberfläche, im Office-Add-in und in Workflows |
| Werkzeuge und Ausführung | Dateisystem, Terminal, Git, Tests | MCP-Server, Integrationen zu Fachsystemen, n8n-Workflows, Websuche, Dokumentenerstellung mit companyFILES |
| Kontext | Repository, Verlauf, Werkzeugergebnisse | companyRAG für SharePoint, Fileshares und DMS, Dateisuche, Agenten mit eigenem Wissen |
| Zustand und Gedächtnis | Sitzungsprotokoll, Fortschrittsdateien | Erinnerungsfunktion, gespeicherte Verläufe, Agenten-Konfigurationen |
| Berechtigungen | Freigaben für riskante Befehle | Rollen aus Entra ID oder Keycloak, Zugriffsrechte auf Agenten- und Quellenebene, Modellfreigabe pro Rolle über das AI Gateway |
| Verifikation und Nachvollziehbarkeit | Tests, Sitzungsverlauf | Antworten mit Quellenangaben, Freigabeschritte in Workflows, Audit-Logs, Kosten-Dashboard mit Budgets |
| Orchestrierung | Sub-Agenten | Agent Marketplace, spezialisierte Agenten, mehrstufige Workflows über n8n |
| Modellschicht | Claude | Multi-Modell: GPT, Claude, Gemini, Mistral und offene Modelle |
Damit ist CompanyGPT zugleich mehr als ein Harness. Der Harness ist die Laufzeitschicht um das Modell. Der AI-Stack ist die gesamte Architektur, in der diese Schicht betrieben wird: Modellzugang, Unternehmenswissen, Identitäten, Governance, Kostensteuerung und Infrastruktur. CompanyGPT liefert beides – den Harness für Ihre Fachanwender und den Kern eines AI-Stacks, der Ihnen gehört. Er läuft in Ihrer eigenen Azure-Umgebung oder, für Verwaltung und regulierte Branchen, souverän auf STACKIT. Und weil ein Harness gepflegt werden muss, entwickeln wir ihn laufend weiter, während Sie die Modelle darunter frei wählen.
Warum dieser Stack-Gedanke langfristig trägt, beschreiben wir ausführlich im Leitfaden ChatGPT für Unternehmen: Enterprise, Copilot oder eigene KI-Plattform und im Whitepaper Vom Chatbot zum Kollegen.
Die Schleife im Unternehmensalltag
Wie sieht „Kontext sammeln, handeln, überprüfen“ außerhalb eines Code-Repositories aus? Ein Beispiel aus dem Vertrieb:
Eine Mitarbeiterin bittet ihren Agenten: „Bereite das Angebot für den Kunden vor – auf Basis des letzten Gesprächs und unserer aktuellen Preisliste.“ Das Modell entscheidet, dass es zuerst die Gesprächsnotiz braucht. Der Harness fragt über eine Integration das CRM ab und legt das Ergebnis in den Kontext. Das Modell erkennt, dass die Preisliste fehlt; der Harness durchsucht über companyRAG die freigegebenen Vertriebsdokumente – und nur diese, weil die Rolle der Mitarbeiterin nichts anderes erlaubt. Das Modell entwirft das Angebot; der Harness erzeugt daraus mit companyFILES ein Dokument im Unternehmenslayout. Bevor etwas an den Kunden geht, sieht der Workflow eine Freigabe durch die Mitarbeiterin vor.
Jeder Schritt ist protokolliert, das Modell wäre austauschbar, und die Daten sind in der kontrollierten Umgebung geblieben. Das Modell hat gedacht. Alles andere hat der Harness getan.
Sieben Fragen, die Sie an Ihren Harness stellen sollten
Wer KI-Agenten im Unternehmen einführt, sollte die Auswahl nicht beim Modell beginnen, sondern beim Harness:
- Schleife: Arbeitet das System Aufgaben in mehreren Schritten selbstständig ab – mit klaren Abbruch- und Rückfrageregeln?
- Werkzeuge: Lassen sich unsere Fachsysteme über offene Standards wie MCP anbinden?
- Kontext: Wie kommt unser Unternehmenswissen in den Kontext, und wer entscheidet, welche Quellen ein Agent sehen darf?
- Gedächtnis: Was merkt sich das System über Sitzungen hinweg, und wer kann das einsehen und löschen?
- Berechtigungen: Stammen Rollen und Rechte aus unserem Verzeichnisdienst, und werden riskante Aktionen freigegeben statt stillschweigend ausgeführt?
- Verifikation: Gibt es Quellenangaben, Freigabeschritte, Audit-Logs und Budgets, die den Anforderungen von DSGVO und EU AI Act standhalten?
- Modellfreiheit: Können wir das Modell wechseln, ohne Integrationen, Wissen und Rechte neu aufzubauen?
Eine ausführlichere Kriterienliste finden Sie in unseren Auswahlkriterien für KI-Plattformen 2026; was bei der Werkzeuganbindung sicherheitstechnisch zu beachten ist, im Beitrag MCP als Standard – ja, aber bitte sicher.
Fazit
KI-Agenten sind nicht einfach Modelle. Das Modell mag brillant sein – ohne guten Harness bleibt es ein Gehirn im Glas. Erst Schleife, Werkzeuge, Kontext, Gedächtnis, Berechtigungen, Verifikation und Orchestrierung machen daraus einen Agenten, und die Messwerte zeigen, dass dieser Mantel das Ergebnis ebenso prägt wie das Modell selbst. Für Entwickler ist Claude Code ein solcher Harness. Für Ihr Unternehmen ist es CompanyGPT: die Schicht, die beliebige Modelle mit Ihren Systemen, Ihrem Wissen und Ihren Regeln verbindet – und die bleibt, wenn das nächste Modell kommt.
Wenn Sie sehen möchten, wie dieser Harness mit Ihren Fachsystemen und Ihrem Rechtekonzept zusammenspielt, sprechen Sie uns an – wir zeigen es Ihnen in einer Demo an einem Ihrer eigenen Anwendungsfälle.