Menschliche Verantwortung

Unsere Position. Wir delegieren, prüfen und verantworten (öffnet in einem neuen Tab). Der Agent erledigt die mechanische Arbeit, der Engineer prüft sie und behält die Entscheidung. An einen Agenten zu delegieren ähnelt eher dem Delegieren an einen Junior Engineer als der Übergabe an einen externen Dienstleister. Ihr setzt den Kontext, ihr lest die Arbeit, und ihr bleibt verantwortlich für das, was ausgeliefert wurde.

Diese Grenze verändert den Arbeitstag von Engineers. Review wird zur Hauptaufgabe. Ein neuer Middle Loop prüft jeden Vorschlag eines Agenten darauf, ob er das richtige Problem löst. Und Engineers programmieren weiter genug selbst, um die Aufsicht leisten zu können.

Was bleibt beim Menschen, wenn Agenten den Code schreiben?

Nichts davon entlässt den Menschen aus der Verantwortung. Drei Manifeste schreiben sie ausdrücklich fest:

• The AI Manifesto formuliert fünf Prinzipien. Lasst nie ein Modell für euch sprechen, für euch denken oder eure Arbeit verantworten. Lasst es nie eure Neugier ersetzen oder jemand anderen entmutigen (The AI Manifesto (öffnet in einem neuen Tab)).
• Das AI-Augmented Software Development Manifesto schreibt das Agile Manifest für Agenten um. Es stellt menschlichen Geschmack über Autopilot, enge Feedback-Schleifen über lange unbeaufsichtigte Läufe und getestete Software über üppigen Output. Klare, anpassbare Absicht stellt es über starre Specs ebenso wie über Vibe Coding. Das Prinzip dahinter: Code ist billig, Verständnis ist teuer (AI-Augmented Software Development Manifesto (öffnet in einem neuen Tab)).
• Das Outcome Engineering (o16g) Manifesto treibt den Rahmen weiter. Es ging nie um den Code, nur verifizierte Realität zählt als Wahrheit: Code ist eine Vanity Metric, Vibes sind keine Tests. Das Backlog ist tot, also steuert ihr nach Kosten statt nach Kapazität. Weil Modelle driften, prüft ihr den Agenten laufend gegen die Domäne. Risiko wird zum blockierenden Gate, das das Band anhält (The o16g Manifesto (öffnet in einem neuen Tab)).

Entsprechend verschieben sich die Fähigkeiten, die ihren Wert behalten. Dazu gehören Versionskontrolle als Rückgrat der Koordination zwischen Menschen und Agenten, das Zerlegen von Anforderungen, Testen, Systemdesign und Betrieb. Dazu gehört auch Code Review, das zur zeitintensivsten Aufgabe des Tages wird. Syntax aus dem Kopf zu kennen und schnell zu tippen verliert dagegen an Wert (DoltHub – The Agentic Software Engineer (öffnet in einem neuen Tab), 2. Juli 2025). Die tiefere Funktion von Code Review übersteht den Wandel. Es sorgt für mentale Abstimmung und hält das Modell des Systems im Team synchron. Deshalb zählt das Review des Plans so viel wie das Review des Diffs (Advanced Context Engineering for Coding Agents (öffnet in einem neuen Tab), 2. Dezember 2025).

Thoughtworks gibt demselben Wandel einen strukturellen Namen. Bisher gab es den Inner Loop: tippen, kompilieren und Syntaxfehler in der IDE beheben. Dazu kam der Outer Loop, also alles nach git push: Review, CI/CD, Deploy. Neu ist ein Middle Loop, der in dem Moment beginnt, in dem ein Agent eine Lösung vorschlägt. Dort prüft der Mensch, ob sie das richtige Problem löst, und wehrt architektonischen Drift ab. Außerdem fügt er die parallelen Ergebnisse mehrerer Agenten zu einem kohärenten System zusammen. Die Disziplin dahinter heißt Supervisory Engineering und ruht auf drei Säulen:

• Anleiten: ein System in agentengroße Stücke zerlegen und Standards festschreiben, damit der Agent keine eigenen Muster halluziniert.
• Bewerten: plausiblen, schön eingerückten Code lesen und fragen, ob er die Edge Cases abfängt, eine veraltete API nutzt oder selbstbewusster Unsinn ist.
• Korrigieren: die Codebasen mehrerer Agenten zu architektonischer Kohärenz zusammennähen.

Daraus folgt eine neue Gewohnheit. Früher hat euch das Schreiben von Code gebremst. Heute müsst ihr euch zwingen, beim Lesen, Hinterfragen und Prüfen langsamer zu werden (Thoughtworks – Supervisory Engineering: Orchestrating Software’s Middle Loop (öffnet in einem neuen Tab), 3. Juni 2026).

Mehr Hebel bringt es, das System anzulernen, statt jeden Diff von Hand zu prüfen: Jede Lehre wandert in eine dauerhafte Rule- oder Skill-Datei. So wird der nächste Lauf besser, und ihr behebt nicht dieselbe Fehlerklasse wieder im Chat (How I Use AI to Code (öffnet in einem neuen Tab), aktualisiert am 11. September 2026). Das Gegengewicht ist das Paradox der Aufsicht. Wer einen Agenten gut beaufsichtigen will, braucht genau die Coding-Skills, die beim Delegieren verkümmern. Dieser Verlust ist bereits messbar. Eine vertretbare Disziplin nutzt KI deshalb für Specs, Pläne und Recherche und behält die Umsetzung selbst in der Hand. Dabei erzeugt ihr nie mehr, als ihr in einer Sitzung reviewen könnt (Agentic Coding is a Trap (öffnet in einem neuen Tab)). Selbst in einem spec-getriebenen Flow an einem wirklich schweren Problem sieht das verlässliche Ende manchmal so aus: Ihr werft die plausible, aber falsche Version des Agenten weg. Den Kern schreibt ihr von Hand neu, sobald ihr ihn gut genug versteht (Partner with the AI, throw away the code (öffnet in einem neuen Tab), 31. Juli 2025).

Dieselbe Lehre taucht auch als Voraussetzung auf, nicht erst am Ende. Ein Bericht von Netflix beschreibt ein festgefahrenes Refactoring der Autorisierung. Die Berechtigungsprüfungen waren mit der Geschäftslogik verwoben, und der Agent geriet bei jedem Entwirrungsversuch ins Trudeln. Gelöst wurde es erst, als das Team eine Migration komplett von Hand machte, ohne KI. Es las den Code, bis klar war, welche Invarianten gelten mussten. Diesen Pull Request gab es dann als Ausgangspunkt in die Recherchephase des Agenten. Der Loop aus Recherche, Plan und Umsetzung funktionierte, weil sich das Team das Verständnis vorher erarbeitet hatte. Kein besserer Prompt und kein besseres Modell ersetzt das (The Infinite Software Crisis (öffnet in einem neuen Tab), 20. Dezember 2025).

Die tiefere Diagnose lautet: KI ist der ultimative “easy”-Knopf, und easy ist nicht simple. Simple meint eine Struktur ohne Verflechtungen, easy meint, was nahe liegt und griffbereit ist. Deshalb bewahren Agenten akzidentelle Komplexität so bereitwillig wie essenzielle. Fünf Jahre alte technische Schulden und tragende Logik behandeln sie gleich, als Muster, die erhalten bleiben sollen. Wer das Denken überspringt, um mit der Generierung Schritt zu halten, lässt außerdem das eigene Gespür dafür verkümmern, wann ein System gefährlich komplex wird (The Infinite Software Crisis (öffnet in einem neuen Tab), 20. Dezember 2025).

Ein Talk aus der Praxis spitzt die Rechenschaft auf ein Evidenzpaket und ein zurechenbares Urteil über den Weg in die Produktion zu. Der Agent liefert, was zur Aufgabe passt: Diffs, Tests, Logs, Begründung, Traces oder Screenshots. Ein Mensch beurteilt, ob diese Belege reichen. Dann entscheidet er, ob ausgeliefert, blockiert oder umgelenkt wird oder ob er das Risiko akzeptiert (The Engineer of the Future Chooses What Is Worth Doing (öffnet in einem neuen Tab), 14. Juli 2026, Synthese aus der Praxis).

Der Talk trennt Fähigkeit von Handlungsmacht. Agenten können den inneren Ausführungs-Loop fahren, also untersuchen, umsetzen, testen und berichten. Menschen verantworten den äußeren Loop: entscheiden, verifizieren, freigeben und die Folgen tragen. Mit mehr parallelen Agenten steigt der Aufwand für die Orchestrierung, denn menschliche Aufmerksamkeit wächst nicht parallel mit ihnen (The Engineer of the Future Chooses What Is Worth Doing (öffnet in einem neuen Tab), 14. Juli 2026, Synthese aus der Praxis).

Für die Karriere nennt der Talk den heutigen Vorsprung vor einem Modell “alpha” und den Fortschritt des Modells “decay”. Die Begriffe sind Konstrukte aus der Praxis, die Handlung dahinter ist konkret. Dauerhaftes Urteilsvermögen hinterlässt Beispiele und Begründungen, die ein Team wiederverwenden kann. Kognitive Kapitulation beginnt, wenn die Antwort des Agenten zur Antwort der Person wird, bevor sie eine eigene gebildet hat (The Engineer of the Future Chooses What Is Worth Doing (öffnet in einem neuen Tab), 14. Juli 2026, Synthese aus der Praxis).

Ein ökonomisches Paper (“What Will Remain for People to Do?”, Knight First Amendment Institute, April 2025) nennt drei Gründe, warum menschliche Arbeit bleibt, während KI immer mehr kann. Der Work Trend Index 2025 fasst sie zusammen (Microsoft - 2025: The year the Frontier Firm is born (öffnet in einem neuen Tab), April 2025, Anbieterquelle):

1. Mensch und KI im Tandem können jeden der beiden allein übertreffen.
2. Für manche Dinge ziehen Menschen einen Menschen vor.
3. Manche Entscheidungen tragen moralisches Gewicht, und die Gesellschaft erwartet, dass eine Person dafür einsteht.

Der Report spielt die drei an Beispielen durch. KI optimiert Lieferrouten, echte Störungen übernehmen menschliche Disponent:innen. KI modelliert Risiken, für eine große Entscheidung wollen Kund:innen trotzdem Berater:innen ihres Vertrauens. KI fasst Rechtsprechung zusammen, eine Verhandlung mit hohem Einsatz bleibt bei Anwält:innen. Nur die erste Grenze erodiert, wenn die Modelle besser werden. Die dritte macht eine Verantwortungsgrenze zur dauerhaften Designentscheidung statt zum Workaround für schwache Modelle.

Rechenschaft braucht einen Nachweis, welche Zeilen ein Agent geschrieben hat. Ein herstellerneutrales Format dafür erschien im Januar 2026. Agent Trace ist eine Spezifikation unter CC BY 4.0, in Version 0.1.0 und im RFC-Status. Dahinter stehen Cognition, Cursor, Cloudflare, Vercel, Google Jules, Amp, OpenCode und git-ai. Die Spezifikation ordnet jede Datei und jeden Zeilenbereich Beitragenden zu, typisiert als human, ai, mixed oder unknown. Sie nennt das Modell und verlinkt die Unterhaltung, aus der die Änderung stammt, per URL, statt sie in den Commit zu kopieren. Optional kommen Content-Hashes dazu (Agent Trace (öffnet in einem neuen Tab)). Wo die Daten liegen, lässt sie offen: lokale Dateien, Git Notes oder eine Datenbank. Ausdrücklich verfolgt sie weder rechtliches Eigentum noch die Herkunft von Trainingsdaten oder die Codequalität. Die Ankündigung von Cognition liefert das Motiv: Ein Agent, der die Begründung hinter bestehenden Zeilen abrufen kann, soll sie nicht mehr neu herleiten und neu erfinden (Cognition - Agent Trace (öffnet in einem neuen Tab), Anbieterquelle).

Verwandte Seiten

• Der Agent Loop: der innere Loop, den ein Agent selbstständig fährt.
• Disciplined Compounding Loop: der Zyklus, der jedes Review in eine dauerhafte Regel verwandelt.
• Supervision und Drift: wie die Fähigkeit zur Aufsicht verkümmert und wie ihr sie erhaltet.
• Senior Engineering Skills: das Urteilsvermögen, auf dem Rechenschaft beruht.
• Architekturarbeit im agentischen Zeitalter: die Entscheidungen, die bei Menschen bleiben.

Quellen

Menschliche Verantwortung

• Agent Trace (öffnet in einem neuen Tab) - Spezifikationsentwurf in JSON unter CC BY 4.0. Er ordnet Codezeilen innerhalb der Versionskontrolle menschlichen oder KI-Beitragenden, Modellen und Ursprungsunterhaltungen zu.
• The Engineer of the Future Chooses What Is Worth Doing (öffnet in einem neuen Tab) - Synthese aus der Praxis, die die Ausführung durch Agenten von menschlicher Rechenschaft trennt. Belege, Risikoübernahme und Verantwortung für das System bilden darin die Grenze zur Produktion.