Der Agent Loop

Unsere Position. Wir lehren den Loop, damit ein Team den gescheiterten Schritt debuggt, statt alles noch einmal laufen zu lassen (öffnet in einem neuen Tab) und auf einen besseren Würfelwurf zu hoffen. Ist die Wahrnehmung schlecht, repariert ihr den Kontext. Eine schlechte Entscheidung ist ein Problem des Modells oder der Instruktion. Scheitert eine Aktion, repariert ihr das Tool. Ist die Beobachtung schlecht, braucht der Agent ein echtes Signal.

Agenten in Produktion bestehen größtenteils aus gewöhnlichem Code, in dem kleine Modell-Loops laufen. Wie eng jeder Loop läuft, welche Tools er aufrufen darf und wann er endet, legen die Engineers fest.

Was ist ein Agent, und wie baut ihr einen?

Bevor ihr eine Methode für den Bau eines Agenten wählt, hilft es, genau zu wissen, was ein Agent ist. Der Agent ist nicht das Modell. Das Large Language Model ist eine statische, zustandslose Funktion: Text geht hinein, eine Vorhersage der nächsten Tokens kommt heraus. Es hat kein Gedächtnis und weiß nicht, ob seine letzte Ausgabe funktioniert hat.

Der Agent ist das Programm darum herum, eine while-Schleife, die den ReAct-Zyklus (Reason, Act, Observe) ausführt:

1. Das Modell überlegt und gibt einen strukturierten Tool Call aus.
2. Die Ausführungsumgebung führt das Tool aus und hängt das Ergebnis an den Kontext an.
3. Der Loop ruft das Modell erneut auf, bis eine Endbedingung erreicht ist.

Die Intelligenz entsteht aus dieser Feedback-Schleife, nicht aus einem Funken in den Gewichten. Dasselbe statische Modell ist in einem einzigen Durchlauf weniger verlässlich. Autoregressive Generierung verstärkt jeden frühen Fehler über alle späteren Tokens hinweg. Im Loop dagegen kann das Modell einen Fehlschlag sehen und den Kurs korrigieren.

Zwei Mechanismen tragen das Ganze. Der erste ist Tool Use, er schließt den Kreis über die Umgebung. Ein Tool ist eine deklarierte Fähigkeit: eine benannte Funktion, deren typisiertes JSON-Schema in den Kontext eingefügt wird. Das Modell gibt JSON aus, die Umgebung besitzt den Code dahinter und führt ihn aus. Die veränderte Umgebung wird zur nächsten Beobachtung. Ohne diesen geschlossenen Kreis schreibt der Agent blind Code und hört bei der ersten plausiblen Vermutung auf.

Der zweite Mechanismus: Autonomie ist elastisch, nicht binär. Für riskante oder schlecht einsehbare Arbeit ziehen die Engineers den Loop enger. Sie setzen die maximale Zahl der Iterationen nahe eins und Freigaben vor jede Aktion, die Zustand verändert. Für risikoarme Arbeit mit viel Kontext lockern sie ihn, innerhalb starker Guardrails. Sinkt der strukturelle Determinismus der Umgebung, ziehen sie ihn wieder an.

Durchgehend gilt der kybernetische Vorbehalt. Der Agent steuert auf einen Sollwert zu, und dieser Sollwert ist immer nur ein Test oder eine Spec. Ein falscher Test oder eine unvollständige Spec zeigt ihm fälschlich null Abweichung an. Konvergenz auf ein fehlerhaftes Ziel ist keine Korrektheit.

Wer Agenten für die Produktion baut, kommt aus der Praxis zur selben Ernüchterung. Die Lektion wiederholt sich: Agenten sind Software. Die meisten Agenten in Produktion sind größtenteils deterministischer Code, in den kleine LLM-Loops eingestreut sind. Der entscheidende Trick besteht darin, einen Satz in strukturiertes JSON zu verwandeln. Tool Use ist damit einfach JSON plus Code und kein fremdes Wesen, das in die Welt greift (12-Factor Agents, HumanLayer-Talk (öffnet in einem neuen Tab), 3. Juli 2025).

Daraus folgt die Disziplin, die Teile selbst zu steuern, die Frameworks verstecken:

• Ihr steuert euren Kontrollfluss selbst. Ein Prompt wählt den nächsten Schritt, ein Switch-Statement verteilt das JSON, und ihr entscheidet, wie und wann der Loop endet.
• Ihr schreibt eure Prompts selbst. Ab einer gewissen Qualitätsschwelle schreibt ihr jedes Token von Hand, denn das Modell ist eine reine Funktion der Tokens, die ihr ihm gebt.
• Ihr verwaltet euer Kontextfenster selbst.
• Ihr haltet den Agenten zustandslos, damit ihr ihn serialisieren, pausieren und fortsetzen könnt.

Was funktioniert, sind kleine, fokussierte Micro Agents mit drei bis zehn Schritten in einem größtenteils deterministischen DAG. Ein einziger langer autonomer Loop dagegen wird schlechter, je weiter sein Kontext wächst. Das Designziel liegt an der Grenze dessen, was das Modell kann: bei der Aufgabe, die das Modell gerade noch nicht verlässlich schafft. Durch Engineering wird sie trotzdem verlässlich (12-Factor Agents, HumanLayer-Talk (öffnet in einem neuen Tab), 3. Juli 2025).

Damit ändert sich, wofür ein Agent-SDK da ist. Das Framework ist eine Wunschliste, keine Vorgabe. Was sich auf Dauer hält, ist das Muster Libraries statt Frameworks. Und ihr erzeugt erst ein Scaffold und pflegt den Code danach selbst, statt einem undurchsichtigen Wrapper zu vertrauen.

Einen Agenten gut zu bauen verlangt so viel Umdenken wie Technik. Verlässlich ist die Haltung, das Modell als probabilistischen Fahrer zu behandeln, den ihr losschickt. Es ist keine deterministische Funktion, die ihr kontrolliert. Engineers, die diesen Nichtdeterminismus wegprogrammieren wollen, bauen schlechtere Agenten. Deshalb liefern Juniors manchmal schneller funktionierende Agenten als Seniors (Why (Senior) Engineers Struggle to Build AI Agents (öffnet in einem neuen Tab), 26. November 2025).

Drei Regeln des Artikels erweitern den Loop von oben:

• Ein Fehler ist nur ein weiterer Input. Ihr fangt ihn ab und gebt ihn zurück, damit sich der Agent erholt, statt abzustürzen.
• Text ist der neue Zustand. Bewahrt die rohen Worte der Nutzer:innen, statt sie auf einen Boolean einzudampfen.
• Agenten nehmen alles wörtlich. Tools brauchen ausführliche, narrensichere Namen und Schemas (user_email_address, nicht email), und der Docstring liefert den Kontext.

Reasoning lässt sich nicht per Unit-Test prüfen. Das Verhalten messt ihr deshalb mit Evals: Verlässlichkeit als pass^k, Qualität über einen LLM-Judge, dazu ein Trace der Zwischenschritte. Assertions allein reichen nicht (Why (Senior) Engineers Struggle to Build AI Agents (öffnet in einem neuen Tab), 26. November 2025).

Die Plattformanbieter sagen inzwischen dasselbe über Frameworks. Je besser die Modelle werden, desto mehr wird schweres Scaffolding vom Vorteil zur Last, weil es die Intelligenz des Modells verdeckt. Das Designziel heißt deshalb, das Modell zu entfesseln: ihm Tools und einen minimalen Prompt geben und es loslassen (Anthropic - Building the Future of Agents with Claude (öffnet in einem neuen Tab), 2. Oktober 2025, Anbieterquelle).

Anthropic berichtet, dass nach dem Entfernen der Coding-Details aus dem Claude Code SDK eine allgemeine Laufzeit für agentische Loops übrig blieb. Etwas Coding-Spezifisches enthielt sie nicht mehr. Laut Anthropic lässt außerdem ein Memory-Tool einen einzelnen Agenten über mehrere Läufe hinweg besser werden. Das schließt die Lücke, dass ein Mensch beim fünften Versuch besser wird, ein Basismodell aber nicht (Anthropic - Building the Future of Agents with Claude (öffnet in einem neuen Tab), 2. Oktober 2025, Anbieterquelle).

Den Kontrollfluss selbst zu steuern hat eine konkrete Form. Die Orchestrierung steht in echtem Code, und das Modell kommt nur dort zum Einsatz, wo es wirklich gebraucht wird. Eine ausgearbeitete Pipeline führt Issue, Umsetzung, Review, PR und Feedback als typisierte Workflow-Schritte. Jeder Schritt gibt einen strukturierten Erfolg zurück oder einen Fehlschlag mit der nächsten Aktion. Ein JSON-Schema geht als Output-Format an das SDK, damit die Antworten die Validierung bestehen. Hooks setzen die Grenze durch: Sie verweigern einen direkten git push und leiten zum Workflow um. Der Agent behandelt die Pipeline als Black Box und folgt den Instruktionen, die sie zurückgibt (Dev Workflows as Code (öffnet in einem neuen Tab)).

Die Orchestrierung gehört aus dem Prompt heraus, weil ein einzelner Agent, der zusätzlich den Prozess führen soll, ins Schlingern gerät, sobald sich sein Kontext füllt. Er überspringt dann Schritte oder wiederholt sie.

Verwandte Seiten

• Disciplined Compounding Loop: der Arbeitszyklus, den ein Team um den Agent Loop herum fährt.
• Menschliche Verantwortung: was bei der Person bleibt, sobald der Loop allein läuft.
• Architektur agentischer Systeme: wie viele Loops zu einem Produktionssystem zusammenkommen.
• Thin Harness: warum sich ein minimales Scaffolding um das Modell herum bewährt.
• Software Factories und Harness Engineering: Loops, verdrahtet zu einer Pipeline aus Stationen.

Quellen

Artikel

• Dev Workflows as Code (öffnet in einem neuen Tab) - Blogpost darüber, wie ihr die Orchestrierung von Agenten in typisierten Workflow-Code verlegt, mit Hooks, die einen direkten Push zur Pipeline umleiten.
• Why (Senior) Engineers Struggle to Build AI Agents (öffnet in einem neuen Tab) - Blog-Essay mit der These, dass Agenten eine probabilistische Denkweise brauchen: Fehler als Input, Text als Zustand und Evals statt Unit-Tests.

Posts

• Re-running the whole thing (öffnet in einem neuen Tab) - LinkedIn-Post mit der These, dass Teams, die den Agent Loop kennen, den gescheiterten Schritt debuggen, statt den ganzen Lauf neu zu würfeln.

Talks und Videos

• 12-Factor Agents: Patterns of reliable LLM applications (öffnet in einem neuen Tab) - Talk von HumanLayer auf der AI Engineer mit der These, dass Agenten in Produktion größtenteils deterministischer Code sind, mit kleinen Modell-Loops, die ihr selbst besitzt.
• Building the future of agents with Claude (öffnet in einem neuen Tab) - Video von Anthropic, also die Sicht eines Anbieters, mit der These, dass schweres Scaffolding die Intelligenz des Modells verdeckt und Agenten Tools plus einen minimalen Prompt brauchen.