Qualität und Verifikation
Verifikation ist der Engpass agentischer Delivery: Schreiben Agenten den Großteil des Codes, wird Generieren billig und Prüfen knapp. Ein Team liefert so schnell, wie es die Korrektheit des Outputs belegen kann, mit Tests, deterministischen Gates, Abnahmenachweisen und Evals, nicht so schnell, wie es Code erzeugt.
Verfasst von
-
Benedikt Stemmildt Gründer & Co-CEO
Aktualisiert:
Agentic Engineering 5
Unsere Position. Wann eine Arbeit fertig ist, entscheidet bei uns nie das Modell. Ein Guardrail (öffnet in einem neuen Tab) ist ein Gate im Code, um das der Agent nicht herumkommt, etwa ein Hook, der die Tests ausführt. Eine freundliche Bitte im Prompt ist kein Guardrail. Wie viele Agenten parallel arbeiten, begrenzen wir auf das, was das Team gut prüfen kann (öffnet in einem neuen Tab). Die Grenze steigt erst, wenn das Prüfen besser wird.
Wir prüfen in Schichten.
- Schwache Änderungen fallen schon beim Schreiben auf.
- Deterministische Gates laufen vom Language Server bis in die CI.
- Abnahmenachweise zeigen, dass ein Feature funktioniert.
- Ergebnismetriken zeigen, ob mehr erzeugter Code auch mehr ausgelieferte Änderungen gebracht hat.
KI verstärkt die Qualitätspraxis, die ein Team schon hat. Deshalb bestimmen diese Schichten das Ergebnis stärker als das Modell.
Einstieg
- Die Velocity-Falle - Warum Generieren dem Verifizieren davonlaufen und den echten Delivery-Durchsatz senken kann.
- Das Qualitätssystem rund um den Coding-Agenten - Warum KI die Engineering- und Qualitätspraxis verstärkt, die eine Organisation schon hat.
- Deterministische Quality Gates - Wie Feedback-Schleifen vom Language Server bis zur CI das Verhalten von Agenten begrenzen.
- Agentic Continuous Delivery - Wie die Regeln von Continuous Delivery und die Deployment-Pipeline von Agenten erzeugte Änderungen sicher releasebar halten.
- Qualitäts- und Produktivitätsmetriken - Die Kennzahlen, die mehr generierten Output von besseren Delivery-Ergebnissen unterscheiden.
- Coding-Benchmarks - Was Leaderboards für Coding-Agenten messen und was sie auslassen.
- Nicht-deterministische Systeme evaluieren - Wie ihr schwankenden Agent-Output mit reproduzierbaren Nachweisen und geschichteten Prüfungen bewertet.
Verwandte Seiten
- Software Factories und Harness Engineering: wie die Gates zu Stationen einer Pipeline werden.
- Creator- und Verifier-Rollen: warum der Agent, der baut, nicht der sein sollte, der prüft.
- Dark Factory Patterns: was passiert, wenn das Produktionsvolumen der Validierung davonläuft.
- Verification Literacy: die Fähigkeit, die ein Mensch braucht, um Agent-Output zu beurteilen.
- Methoden und Frameworks: die Arbeitszyklen, in denen diese Prüfungen stattfinden.
- Impact messen: wie ihr erkennt, ob bessere Prüfungen die Delivery verbessert haben.
Ressourcen
Code Review und QA
- Baz (öffnet in einem neuen Tab) - KI-Tool für Code Review, das pro Pull Request spezialisierte Reviewer laufen lässt, Breaking Changes findet und Team-Konventionen durchsetzt.
- Braintrust Loop (öffnet in einem neuen Tab) - Funktion von Braintrust, mit der ihr in natürlicher Sprache Logs analysiert, Prompts optimiert und Eval-Datensätze aufbaut.
- Checksum AI (öffnet in einem neuen Tab) - KI-Tool, das End-to-End-Tests automatisch erzeugt, ausführt und pflegt. Nach eigener Angabe lösen sich rund 70 % der Fehlschläge ohne Eingriff von Engineers.
- CodeRabbit (öffnet in einem neuen Tab) - KI-Reviewer für Pull Requests mit kontextbewusstem Feedback, Vorschlägen Zeile für Zeile und Echtzeit-Chat.
- Continue (öffnet in einem neuen Tab) - KI-Checks unter Versionskontrolle, die als native GitHub-Status-Checks Engineering-Standards in Pull Requests durchsetzen. Basiert auf der Open-Source-CLI von Continue, Apache-2.0.
- Graphite (öffnet in einem neuen Tab) - GitHub-natives Developer-Tooling für Stacked Diffs, Code Review und Merge Queues.
- Greptile (öffnet in einem neuen Tab) - KI-Code-Reviewer, der die gesamte Codebasis indexiert und so kontextbewusstes PR-Feedback und Bug-Erkennung liefert.
- Hyground (öffnet in einem neuen Tab) - Souveräner KI-SRE-Agent, der Incidents löst und den Betrieb in der eigenen Umgebung der Kund:innen automatisiert.
- Knip (öffnet in einem neuen Tab) - (knip.dev (öffnet in einem neuen Tab)) ISC-lizenzierter Linter für JavaScript- und TypeScript-Projekte, der ungenutzte Dateien, Dependencies und Exports findet. Über einen MCP-Server (öffnet in einem neuen Tab) können Coding-Agenten auf die Dead-Code-Berichte reagieren.
- Open Code Review (öffnet in einem neuen Tab) - CLI von Alibaba für KI-Code-Review (Go, Apache 2.0), die deterministische Dateiauswahl mit LLM-Agenten kombiniert. Nach eigener Angabe ist sie präziser und braucht dabei rund 1/9 der Tokens allgemeiner Agenten.
- PMAT (Pragmatic AI Labs Agent Toolkit) (öffnet in einem neuen Tab) - MCP-Server von Pragmatic AI Labs mit Codeanalyse, Bewertung technischer Schulden und 19 Tools ohne Konfiguration für mindestens 17 Sprachen. Ziel ist deterministischerer Code von Agenten.
- Qodo (öffnet in einem neuen Tab) - KI-Plattform für Code Review, Testgenerierung und Code-Integrity-Checks über den ganzen Entwicklungsablauf (früher CodiumAI).
- Pythea (öffnet in einem neuen Tab) - Typisierter Python-Client für Reasoning-APIs mit Tools zur Offline-Evaluation, einer Bernoulli-Probe zur Erkennung von Prompt-Kontamination und dem Toolkit Strawberry (öffnet in einem neuen Tab) zur Erkennung von Halluzinationen.
- ReviewCerberus (öffnet in einem neuen Tab) - MIT-lizenzierter KI-Reviewer (Python, TypeScript, LangChain), der den Diff eines Git-Branches prüft und Logik-, Security- und Performance-Probleme meldet. Ein Chain-of-Verification-Modus senkt die False Positives.
- Sentry Seer (öffnet in einem neuen Tab) - KI-Debugger von Sentry, der mit dem Kontext von Produktionsfehlern Breaking Changes markiert, Ursachen findet und Fixes vorschlägt.
- The Verifier Agent (öffnet in einem neuen Tab) - Pi-Harness mit zwei Agenten: Ein unabhängiger Verifier wiederholt die Arbeit des Builders mit Read-only-Tools, fordert Korrekturen an und eskaliert nach drei Schleifen an einen Menschen.
- Wispbit (öffnet in einem neuen Tab) - Open-Source-KI-Code-Reviewer, der die Coding-Standards des Teams in Pull Requests lebendig hält.
- sentrux (öffnet in einem neuen Tab) - (sentrux.dev (öffnet in einem neuen Tab)) Echtzeit-Sensor für Architektur in reinem Rust (ein Binary, 52 Sprachen über tree-sitter). Er bewertet die strukturelle Codequalität und stellt sie KI-Agenten über MCP bereit.
Testing und Evals
- Braintrust (öffnet in einem neuen Tab) - Observability- und Evaluations-Tooling für KI-Produkte in Produktion, mit Eval-Datensätzen, Traces und Prompt-Iteration.
- DeepEval (öffnet in einem neuen Tab) - Open-Source-Framework zur LLM-Evaluation mit Metriken, um Modell-Outputs zu testen und per Unit-Test zu prüfen.
- Harness (awizemann) (öffnet in einem neuen Tab) - KI-gesteuertes User-Testing für iOS Simulator, macOS und Web-Apps. Ein LLM-Agent bedient die UI nach einem Ziel in Alltagssprache und meldet Reibungspunkte.
- Helicone (öffnet in einem neuen Tab) - Open-Source-Plattform für Observability und Monitoring von LLM-Anwendungen, die Requests, Kosten und Latenz protokolliert.
- Langfuse (öffnet in einem neuen Tab) - Open-Source-Plattform für LLM-Engineering mit Tracing, Evaluation, Prompt-Management und Metriken.
- LangSmith (öffnet in einem neuen Tab) - Plattform von LangChain, um LLM- und Agent-Anwendungen zu tracen, zu testen und zu überwachen.
- Patronus AI (öffnet in einem neuen Tab) - Plattform für Evaluation und Monitoring, die LLM-Outputs gegen Qualitäts- und Sicherheitskriterien testet.
- Ragas (öffnet in einem neuen Tab) - Open-Source-Framework zur Evaluation von Retrieval-Augmented-Generation-Pipelines.
- Rodney (öffnet in einem neuen Tab) - CLI zur Browser-Automatisierung (Go, kapselt die Bibliothek Rod). Coding-Agenten steuern damit eine Headless-Chrome-Session und nehmen Screenshots für Demos auf.
- Showboat (öffnet in einem neuen Tab) - CLI, mit der ein Agent ein Markdown-Demodokument baut. Sie hält den echten Output jedes Befehls direkt fest, sodass ein Reviewer die Nachweise nachspielen kann.
- TDD Guard (öffnet in einem neuen Tab) - Hook-basierte TDD-Durchsetzung für Claude Code, die Edits blockiert, wenn Tests fehlen oder übersprungen werden.
- promptfoo (öffnet in einem neuen Tab) - Open-Source-Tool, um LLM-Prompts und -Anwendungen zu testen, zu evaluieren und einem Red-Teaming zu unterziehen.
- prompt-vs-metric-eval (öffnet in einem neuen Tab) - Präregistrierte Python-Studie, die reine Metrik-Meldungen eines Linters mit Verhaltens-Prompts zum Beheben von Code Smells vergleicht. Ein deterministischer Judge trennt echte Fixes von Tricks, die nur den Linter bestehen.
- wasmsh agent-harness (öffnet in einem neuen Tab) - Randomisierter Kompatibilitäts-Harness für die WASM-Bash-Sandbox wasmsh. Ein LLM erzeugt neue Aufgaben und ordnet Fehlschläge automatisch einem Backlog von Lücken der Sandbox zu.
Benchmarks
- AutoCodeBenchmark (öffnet in einem neuen Tab) - Benchmark für Codegenerierung mit 3.920 Aufgaben, um die Coding-Fähigkeit von LLMs zu bewerten.
- CooperBench (öffnet in einem neuen Tab) - Benchmark von Stanford und SAP mit 652 Aufgaben, der misst, wie gut zwei Coding-Agenten zusammenarbeiten. Sie haben dabei weit seltener Erfolg als ein einzelner Agent.
- Harbor (öffnet in einem neuen Tab) - Framework zur Evaluation von Coding-Agenten (Claude Code, OpenHands, Codex CLI) mit Benchmark-Erstellung, parallelen Läufen und Erzeugung von RL-Rollouts.
- How Tech Companies Measure AI Impact (öffnet in einem neuen Tab) - Deep Dive von Pragmatic Engineer mit einem CTO-Interview. Er zeigt, wie GitHub, Google, Dropbox, Monzo, Atlassian und 13 weitere Firmen die Wirkung von KI-Tools auf Entwickler:innen messen.
- LLM SQL Benchmark (öffnet in einem neuen Tab) - Schneller agentischer Text-to-SQL-Benchmark mit Check-Correct-Debug-Schleife. Er bewertet 25 Fragen nach der Korrektheit des Ergebnisses statt nach dem Query-Text und läuft per DuckDB-WASM im Browser.
- OpenRouter Rankings (öffnet in einem neuen Tab) - Wöchentliche LLM-Rankings aus der echten Nutzung von OpenRouter, die zeigen, welche Modelle Entwickler:innen tatsächlich aufrufen.
- SWE-Bench (öffnet in einem neuen Tab) - Leaderboard, das KI-Agenten an echten Aufgaben zur Lösung von GitHub-Issues aus Open-Source-Repositories misst.
- SkillsBench (öffnet in einem neuen Tab) - Evaluations-Framework, das Skills von KI-Agenten über 84 von Expert:innen kuratierte Aufgaben, 7 Modelle und 3 Agent-Harnesses bewertet.
- Spark Arena (öffnet in einem neuen Tab) - Community-Leaderboard, das den LLM-Durchsatz in Tokens/s auf NVIDIA DGX Spark vergleicht. Es variiert Kontextlängen, Concurrency, Quantisierung (FP8, BF16, AWQ) und Runtimes (vLLM, SGLang).
- gbrain-evals (öffnet in einem neuen Tab) - Reproduzierbare Benchmarks für Agent-Stacks mit persönlichem Wissen und Memory (BrainBench plus LongMemEval). Versiegelte Relevanzbewertungen (Qrels), Toleranzbänder und fest gepinnte Judge-Versionen erschweren Manipulation.
- live-bench (öffnet in einem neuen Tab) - Live-Benchmarking-Plattform nur im LAN (FastAPI, click-CLI, Vue-3-Frontend), die Evaluationsergebnisse lokaler Modelle auf ein präsentationsreifes Dashboard streamt.
Produktivitätsmetriken
- AI Engineer Coach (öffnet in einem neuen Tab) - VS-Code-Extension von Microsoft, die lokale KI-Session-Logs aus jedem Harness in ein Dashboard mit 45 Anti-Pattern-Regeln und Praxis-Scores verwandelt. Läuft vollständig lokal.
- Bloom Filter AI (öffnet in einem neuen Tab) - Process Intelligence, die verfolgt, wie KI-Agenten und Menschen Arbeit in Software-Teams von Anfang bis Ende erledigen.
- DX Platform (öffnet in einem neuen Tab) - Produkt zur Messung der Developer Experience, gebaut von Forschenden im Stil von DORA. Es beziffert Produktivität und den Wandel hin zu KI-gestütztem Engineering.
- Engineering Social Graph (öffnet in einem neuen Tab) - Python-Tool, das die Pull-Request-Historie auf GitHub auswertet und Kollaborationsnetze von Entwickler:innen abbildet. Es erkennt Teams per Louvain-Clustering, bewertet Expertise und markiert Bus-Factor-Risiken. MIT-Lizenz.
Lernplattformen
- Exercism (öffnet in einem neuen Tab) - Kostenlose Seite für Übung und Mentoring in 79 Programmiersprachen mit mindestens 7.948 Übungen, automatischer Codeanalyse und menschlichen Mentor:innen.
- tests4geeks (öffnet in einem neuen Tab) - Service für Coding-Tests in Einstellungsverfahren für Java, PHP, C#, JavaScript, C++, Python und SQL. Er erlaubt Tests mit unbegrenzt vielen Kandidat:innen und bietet eigenes Branding und teilbare Testlinks.
In diesem Bereich
- Agentic Continuous Delivery
Die Delivery-Regeln für Änderungen von Agenten und was jede Pipeline-Stufe prüft, für Teams, die Agenten in eine produktive Codebasis committen lassen.
- Coding-Benchmarks
Coding-Benchmarks messen, ob ein Agent eine kleine Menge Unit-Tests bestehen lässt, meist in Python und oft für eine einzige Funktion. Die Teile der Arbeit mit dem größten Hebel lassen sie weg: aus einem unscharfen Problem eine gute Spec machen und eine Codebasis über viele Änderungen leicht änderbar halten.
- Deterministische Quality Gates
Wie Feedback-Schleifen vom Language Server bis zur CI das Verhalten von Coding-Agents begrenzen.
- Nicht-deterministische Systeme evaluieren
Wie ihr Output testet, der von Lauf zu Lauf schwankt, von Unit-Tests bis zu Baselines für Erfolgsquoten, und was ein öffentliches Eval-Leaderboard beweist und was nicht.
- Qualitäts- und Produktivitätsmetriken
Mit Agentic Coding schaden Volumenmetriken wie Codezeilen oder Pull Requests, weil, wer Volumen belohnt, das Review mit ungeprüftem Output flutet. Tragfähig bleiben First-Pass-Akzeptanz, Rework-Rate und die DORA-Delivery-Metriken, für Agent-Änderungen gegen die menschliche Baseline gelesen.
- Das Qualitätssystem rund um den Coding-Agenten
KI verstärkt die Engineering-Praktiken, die ein Team schon hat. Solide Versionskontrolle, Observability und kleine Batches werden zu Tempo. Ein Review-Bottleneck oder eine fragile Pipeline führen zu längeren Verzögerungen und mehr Ausfällen. Regeln, Reviews und harte Checks rund um den Agenten steuern, was er produziert.
- Die Velocity-Falle
Warum Generierung die Verifikation überholen und den echten Delivery-Durchsatz senken kann.