Freitagabend, kurz vor sieben. In der Prüfliste liegen Hunderte offener Frage-Antwort-Paare, jedes wartet auf ein menschliches Urteil: Ist die erfasste Antwort gut genug, um daraus zu lernen? Ich habe eine Stunde darin verbracht und ehrlich festgestellt: Das ist extrem schwierig zu entscheiden, auch für einen Entwickler. Nicht, weil die Fälle schwer wären. Weil es zu viele sind und jeder einzelne einen klaren Kopf braucht. Zwei Tage später läuft nachts ein Rat, in dem zwei kleine lokale Modelle über jeden Fall streiten und ein grosses Modell nur dann geweckt wird, wenn sie sich nicht einigen. Hier ist, wie die zwei Tage gingen. Ohne Behauptung, was das alles bedeutet. Mit einer Frage am Schluss, auf die ich keine Antwort habe.
Freitag, der Anlass
Die erste Idee war die übliche: mehr Disziplin. Jeden Morgen eine halbe Stunde Prüfliste. Ich kenne mich. Das hält zwei Wochen. Die zweite Idee war Arbeitsteilung: Die Plattform soll gewichten, wo der menschliche Blick am meisten wert ist, Strittiges an einen nächtlichen Rat delegieren, und der Mensch bestätigt am Morgen Empfehlungen statt Rohmaterial zu lesen. Das klingt nach einem grossen Umbau. Es war ein Freitagabend und ein Samstag.
Der Rat: zwei streiten, einer schlichtet
Für jeden Fall debattieren zwei Rollen, beide auf kleinen lokalen Modellen. Ein Fürsprecher verteidigt die erfasste Antwort. Ein Prüfer greift sie an. Höchstens vier Wortmeldungen pro Rolle, harte Zeit- und Token-Deckel, Schleifen-Erkennung. Einigen sie sich, ist der Fall zu, Kosten null, weil lokal. Bleiben sie uneins, erst dann wacht der Schiedsrichter auf: das grosse Cloud-Modell, mit einem Nacht-Budget von zwei Dollar und einer Kostenzeile an jedem Spruch.
Die Eskalation ist eine bewusste, bezahlte Ausnahme. Keine stille Automatik. Das war mir wichtiger als jede Intelligenz im System: Dass ich am Morgen auf einen Blick sehe, wie viele Fälle lokal erledigt wurden, wie viele den teuren Weg gegangen sind, und was das gekostet hat.
Die Bühne: man sieht zu, wie entschieden wurde
Weil nachts niemand zuschaut, wird jede Beratung als Protokoll aufbewahrt, und tagsüber kann man sie als Film abspielen. Schlafende Figuren mit zzz, genau eine denkt gerade, die Gedanken fliegen sichtbar in die Wortmeldung. Das klingt verspielt. Es ist Vertrauensarbeit. Man sieht, wie eine Entscheidung zustande kam, wer was gesagt hat, und was sie gekostet hat. Ich habe im Oktober geschrieben, dass bei uns nichts im Stillen passieren darf. Das hier ist die Fortsetzung: Auch was nachts passiert, muss am Tag anschaubar sein.
Samstagmorgen, die Panne
Erstes echtes Protokoll, erster Blick. Die beiden Modelle sagten wörtlich dasselbe. Und der Fall endete trotzdem als „festgefahren". Die Schleifen-Erkennung hatte zugeschlagen, bevor die Einigkeits-Erkennung die Übereinstimmung sah. Das System hielt Konsens für Sturheit.
Ich habe eine Weile auf den Bildschirm geschaut, weil es so dumm und so logisch zugleich war. Natürlich sieht eine Wiederholung aus wie eine Schleife. Natürlich ist Wiederholung auch das, was Einigkeit ist. Der Fix war ein Lehrstück in Reihenfolge: erst auf Einigkeit prüfen, dann auf Schleife. Und eines in Schnittstellen-Disziplin: Seitdem endet jede Wortmeldung mit einer strukturierten Positionszeile, Zustimmung oder Widerspruch, ein Satz Begründung, maschinenlesbar. Kein Raten mehr an Formulierungen. Jeder Fall hat jetzt genau drei ehrliche Enden: einig, gratis. Schiedsspruch, ein paar Cent. Wartet, Budget aufgebraucht, nächste Nacht.
Samstagabend, das Finale
Ein Nachtlauf, der Deployments überlebt, sich nach Abstürzen selber aufräumt, seine Fälle wieder aufnimmt, wenn das Budget sie vertagt hat. Und am Morgen eine Prüfliste, die nicht mehr fragt: Willst du sechshundert Paare lesen? Sondern: Hier sind die etwa zehn, bei denen dein Urteil zählt, der Rest ist vorbereitet, mit Begründung, mit Kostenzeile, mit Film.
Sieben Befunde, sieben Gesetze
Dazwischen lag das, was bei uns jeden Werkstatt-Tag ausmacht: Befunde, nummeriert, jeder mit einem benannten Test festgenagelt. Die Mehrzahl am lebenden System gefunden, nicht im Labor. Die sieben, die ein Gesetz hinterlassen haben:
Der maskierte Fehler. Eine Ansicht zeigte stundenlang einen freundlichen Leerzustand, „noch kein Lauf". In Wahrheit scheiterte der Server-Aufruf an einer fehlenden Berechtigung, und die Oberfläche verkleidete das als „nichts da". Wir haben am falschen Haus diagnostiziert. Gesetz: Ein Leerzustand ist nur erlaubt, wenn der Server ehrlich „200, aber leer" sagt. Jeder Fehler bekommt eine eigene Karte mit Ursache und Wiederholen-Knopf. Und der schnellste Griff bleibt banal: Browser-Konsole und Netzwerk-Tab zuerst. Statuscode und Antwort in einer Minute, statt Stunden Spekulation.
Konsens ist kein Loop. Wer Schleifen erkennt, muss zuerst prüfen, ob sich die Parteien längst einig sind. Sonst bestraft das System die Übereinstimmung. Reihenfolge ist Design.
Jobs müssen Deployments überleben. Ein Nachtlauf, den ein Rollout tötete, blockierte als „läuft"-Leiche jeden Folgelauf. Heilung in drei Schichten: Herzschlag am Job, Aufräumen beim Start, vor allen Automatik-Startern, und Aufräumen bei jedem Takt. Weil Rollouts gern zweimal kurz nacheinander booten, und der zweite Zombie dem ersten Aufräumer entwischt.
Die vermutete Datenbank. Eine Reparatur-Abfrage suchte ein Flag, das die echten Dokumente nie trugen. Null Treffer, null Wirkung, Tests grün. Zum dritten Mal dieselbe Lehre, ich habe sie im Oktober schon aufgeschrieben: Tests laufen gegen gelieferte echte Beispieldokumente, nie gegen die Vorstellung des Entwicklers von ihnen.
Choreografie ist Teil des Designs. Ein animiertes Mockup spezifiziert nicht nur Optik, sondern Verhalten: wer schläft, wer denkt, wohin die Effekte fliegen. Wird nur die Optik portiert und der Ablauf nacherfunden, animiert plötzlich alles gleichzeitig. Gesetz: Die Ablauf-Logik des Mockups wird als Code portiert, Abweichungen sind begründungspflichtig, abgesichert mit Zustandsmaschinen-Tests: Zeitschritte rein, Zustände raus. Struktur-Tests beweisen Anwesenheit, nie Verhalten.
Links navigieren, Knöpfe handeln. Ein blauer Text darf nie nebenbei einen Batch starten. Die Antwort auf umständliche Wege ist ein expliziter Knopf mit Server-Vorschau, dieselbe Rechnung, die nachher ausführt.
Zähler gleich Liste. Wenn der Kopf „0" sagt und die Liste darunter Hunderte zeigt, rechnen zwei Pfade. Eine serverseitige Wahrheit für Zähler und Liste. Client-Nachfilter, die gelieferte Daten verwerfen, sind verboten.
Die Zahlen, ehrlich
| Was | Wert |
|---|---|
| Nacht-Budget für den Schiedsrichter | 2 Dollar Obergrenze, überschreibbar |
| Kosten der meisten Fälle | 0, weil lokal entschieden |
| Debatten-Dauer pro Fall | Sekunden bis wenige Minuten |
| Befunde in zwei Tagen | zweistellig, jeder mit benanntem Test |
| Prüfliste am Morgen | statt Hunderten: die etwa zehn, bei denen das Urteil zählt |
Das sind unsere Zahlen aus zwei Tagen, keine Messreihe. Ob die Empfehlungen des Rats gut sind, wissen wir nach zwei Nächten nicht. Das zu messen ist der nächste Schritt, und er führt direkt zur Frage, die mich seit Samstagabend beschäftigt.
Die Frage: Darf die Plattform ihr eigenes Material beurteilen?
Was der Rat nachts tut, ist, ehrlich benannt: Modelle beurteilen Daten, aus denen Modelle lernen sollen. Die Frage-Antwort-Paare sind Trainingsmaterial. Der Rat entscheidet, welche davon gut genug sind. Und am Ende, so der Plan, soll aus den Schiedsfällen ein eigenes kleines Entscheider-Modell lernen, damit die Rollen Schritt für Schritt von der Cloud nach Hause wandern. Der Schiedsrichter arbeitet an seiner eigenen Ablösung.
Das ist elegant. Es ist auch genau das Muster, vor dem die Forschung warnt: Systeme, die mit Material trainiert werden, das Systeme ausgewählt oder erzeugt haben. Ich will das nicht wegreden. Also beide Seiten, so gut ich sie kenne.
Was dafür spricht
Erstens funktioniert es nachweislich, wenn man es richtig macht. Kleine Modelle, die zu einem grossen Teil auf sorgfältig erzeugten Daten trainiert wurden, haben in den letzten zwei Jahren gezeigt, dass Datenqualität Datenmenge schlagen kann. Zweitens ist Debatte als Prüfverfahren kein Bauchgefühl von uns: Eine Studie von 2024 zeigt, dass ein schwächerer Richter wahrheitsgetreuere Urteile fällt, wenn zwei stärkere Parteien vor ihm streiten, als wenn er allein urteilt. Genau das ist unser Aufbau, nur dass bei uns der Richter der Teure ist und die Streiter die Billigen. Drittens, und das ist für mich das stärkste Argument: Die Alternative ist nicht „Mensch prüft alles". Die Alternative ist „niemand prüft", weil Hunderte Paare pro Woche kein Mensch durchkommt. Ein geprüfter Vorschlag mit Begründung, den ein Mensch bestätigt, ist besser als ein ungeprüfter Stapel, den niemand anschaut.
Was dagegen spricht
Erstens Model Collapse. Eine Arbeit in Nature 2024 hat gezeigt, dass Modelle, die über Generationen hinweg auf von Modellen erzeugten Daten trainiert werden, verflachen: Die Ränder der Verteilung verschwinden zuerst, das Seltene, das Ungewöhnliche, dann der Rest. Das ist exakt unser Kreislauf, wenn wir nicht aufpassen. Zweitens Selbstbevorzugung: Modelle als Richter erkennen und bevorzugen Texte, die ihnen selber ähnlich sind. Zwei Rollen auf ähnlichen Modellen können sich einig sein, weil sie denselben blinden Fleck haben, nicht weil die Antwort gut ist. Unsere Panne vom Samstag war harmlos. Die gefährliche Version wäre: Sie sind sich einig, und beide liegen falsch, und niemand eskaliert. Drittens die Rückkopplung ins Training: Wenn das Entscheider-Modell aus Schiedssprüchen lernt, lernt es die Vorlieben des Schiedsrichters, nicht die Wahrheit. Was der Schiedsrichter systematisch übersieht, wird zur Regel.
Was wir tun, weil wir es nicht wissen
Ich behaupte nicht, dass unser Rat gute Urteile fällt. Ich weiss es nicht. Aber ich kann sagen, was wir eingebaut haben, damit wir es herausfinden, und damit der Schaden klein bleibt, falls nicht.
Das stärkste Signal ist der Widerspruch des Menschen. Jeder Schiedsfall erzeugt einen Datensatz: Eingabe, Debatte, Spruch, und ob der Mensch am Morgen anders entschieden hat. Diese Abweichung ist das, woraus wir lernen wollen. Nicht die Zustimmung. Wenn der Mensch nie widerspricht, ist das kein Erfolg, sondern ein Grund, die Stichprobe zu erhöhen.
Hinzufügen, nie ersetzen. Die vom Rat freigegebenen Paare kommen zu den von Menschen geprüften dazu, mit Herkunft markiert. Sie ersetzen sie nie. Das ist der eine Satz aus der Forschung, der sich direkt in eine Regel übersetzen lässt.
Zwei Modelle, nicht eines zweimal. Fürsprecher und Prüfer laufen auf unterschiedlichen kleinen Modellen, damit Einigkeit nicht nur bedeutet, dass derselbe blinde Fleck zweimal zugestimmt hat. Das schliesst Selbstbevorzugung nicht aus. Es macht sie unwahrscheinlicher.
Stichprobe gegen den Rat. Ein fester Anteil der „einig, gratis"-Fälle landet trotzdem beim Menschen, ohne dass er sieht, was der Rat gesagt hat. Erst wenn die Abweichung dort klein bleibt, trauen wir dem Rest.
Der Ersatz-Schiedsrichter muss sich beweisen. Das kleine Entscheider-Modell darf mitlaufen und seine Sprüche neben die des grossen legen. Es übernimmt erst, wenn es über Wochen mit dem Menschen öfter übereinstimmt als das grosse Modell. Nicht, wenn es billiger ist.
Was bleibt
Zwei Tage Werkstatt. Ein Rat, der nachts streitet und morgens Empfehlungen liefert. Sieben Gesetze, eines davon aus einer Panne, die ich so schnell nicht vergesse. Und eine Frage, die bleibt: Wir haben der Plattform beigebracht, ihr eigenes Lernmaterial zu beurteilen, und die Forschung sagt, dass genau das schiefgehen kann. Ich glaube, es geht, wenn der Mensch das letzte Wort behält, echte Daten nie ersetzt werden, und der Widerspruch das Signal ist, nicht die Zustimmung. Aber ich glaube es nur. Gemessen haben wir es noch nicht. Das kommt, und ich schreibe es hier hin, egal wie es ausgeht.
Zwei kleine Modelle streiten, ein grosses schlichtet, ein Mensch entscheidet. Zwei Dollar pro Nacht, meistens null. Das System hielt am ersten Morgen Einigkeit für Sturheit, und das war der nützlichste Fehler der Woche. Ob der Rat gute Urteile fällt, weiss ich nicht. Ich weiss, wie wir es herausfinden, und dass der Mensch, der morgens widerspricht, dabei das Wichtigste ist, was wir haben.
Quellen
Model Collapse. Shumailov et al., AI models collapse when trained on recursively generated data, Nature, Juli 2024. Gegenposition: Gerstgrasser et al., Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data, 2024: Ersetzen führt zum Verflachen, Hinzufügen nicht. Weiterführend Collapse or Thrive?, 2024.
Modelle als Richter bevorzugen sich selber. Panickssery, Bowman, Feng, LLM Evaluators Recognize and Favor Their Own Generations, 2024.
Debatte als Prüfverfahren. Khan et al., Debating with More Persuasive LLMs Leads to More Truthful Answers, ICML 2024. Ursprungsidee: Irving, Christiano, Amodei, AI safety via debate, 2018.
Eigene Artikel. Ein Tag in der Werkstatt (Stille-Verbot, keine erfundenen Fixtures, Rohdaten heilig), Der Engpass ist das Review, 169 Dateien.
Stand und Vorbehalt. 8. November 2026. Die Episoden sind echt und anonymisiert: keine Kunden, Projekte, Modell- oder Servernamen. Die Zahlen sind unsere aus zwei Tagen, keine Messreihe. Die Forschung ist zitiert, nicht nachgerechnet. Ob unser Rat gute Urteile fällt, ist offen; die Messung folgt, und ihr Ergebnis wird hier nachgetragen, so oder so.
Geschrieben von mir. Die Gedanken, die Werte, die Learnings, die Fehler: alles meins. Grammatik und Rechtschreibung korrigiert ein eigenes Twin-Modell, das auf meinen Texten trainiert ist. Manchmal wird daraus ein Mix. Ich lese natürlich alles nochmal, aber niemand ist unfehlbar. Was drin bleibt, ist dann auch von mir.