Vom Agent Harness zur Systemintelligenz: Was Graph Engineering in der KI-Produktion verändert

Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
Eine neue Studie, die Graph Engineering als aufstrebendes Paradigma vorschlägt, bietet eine nützliche Hierarchie für Agenten-Entwickler: Prompting und Kontext formen einen Modellaufruf; ein Harness und eine Schleife machen aus diesem Modell einen persistenten Agenten; die Organisation auf Graphebene koordiniert mehrere Agenten, Arbeitsstrukturen und Laufzeitstatus zu einem Gesamtsystem.
1. Das Papier macht das Harness zu einem technischen Objekt, nicht zu bloßem Klebecode
Die Studie ordnet Prompt Engineering, Context Engineering, Harness Engineering, Loop Engineering und Graph Engineering verschiedenen Ebenen zu, anstatt sie als konkurrierende Begriffe zu behandeln. Prompt und Kontext arbeiten am nächsten an der Inferenz. Harness Engineering erweitert das Modell um persistente und ausführbare Funktionen über Aufrufe hinweg. Loop Engineering organisiert die wiederholte Interaktion mit diesen Funktionen. Graph Engineering adressiert die Organisation auf Systemebene.
Diese Trennung ist sinnvoll, da der Begriff „Agenten-Framework“ oft sehr unterschiedliche Aspekte in einen Topf wirft. Ein Tool-Schema, ein Session-Speicher, eine Sandbox, ein Genehmigungs-Checkpoint und eine Wiederholungsschleife sind nicht dasselbe, auch wenn ein SDK sie über eine einzige API bereitstellt.
Der Abschnitt über Harness Engineering im Papier gruppiert vier Bereiche:
Der entscheidende Punkt ist der Umfang. Harness Engineering bedeutet nicht einfach nur, „dem LLM Werkzeuge zu geben“. Es betrifft die persistente Laufzeitumgebung, in der diese Werkzeuge, Speicher, Fähigkeiten, Ausführungsgrenzen und Kontrollen über Aufrufe hinweg nutzbar bleiben.

2. TrueForge lässt sich präzise auf die Laufzeitumgebung für Einzelagenten im Papier abbilden
Hier hat TrueForge eine ungewöhnlich direkte Entsprechung zum Vokabular des Papiers. Die aktuelle Dokumentation von TrueForge beschreibt es als Open-Source-Agenten-Harness – die Laufzeitschicht um ein LLM, die die Ausführungsschleife steuert und MCP-Tools, Fähigkeiten, Sandboxing, Genehmigungen, Subagenten, Kontextmanagement und persistenten Sitzungsstatus verbindet.
Diese Abbildung ist nicht nur rhetorisch. Die Server-Dokumentation von TrueForge besagt, dass der Server einen Turn plant, das Modell aufruft, Tools ausführt, Schritte streamt, bei sensiblen Aktionen auf menschliche Genehmigung wartet, den Kontext für lange Aufgaben schlank hält und Sitzungen über Wiederverbindungen und Neustarts hinweg persistent speichert. Das SDK macht Agent, Session, Turn, Event und Delta zu expliziten Laufzeitobjekten.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.

















.png)
.png)
.png)
.png)
.png)






.png)







