Ich erinnere mich noch gut an die ersten Wochen, in denen wir ernsthaft mit Sprachmodellen gearbeitet haben. Es war anstrengend. Nicht, weil sie dumm waren. Sondern weil sie so überzeugend waren.
Die ersten Monate
Ein Modell hat mir eine Bibliothek empfohlen, die es nicht gab. Mit Versionsnummer, mit Beispielcode, mit Erklärung, warum sie besser sei als die Alternative. Ich habe zwanzig Minuten gesucht, bevor ich verstanden habe, dass das alles erfunden war.
Ein anderes hat mir eine API-Antwort beschrieben, die so nie zurückkommt. Ein drittes hat einen Test als bestanden gemeldet, den es nie ausgeführt hatte. Immer im gleichen Ton: ruhig, sicher, hilfsbereit.
Das war das Schwierige. Ein Mensch, der etwas nicht weiss, zögert. Er sagt „ich glaube" oder „müsste man nachschauen". Die Modelle damals haben nicht gezögert. Sie haben behauptet. Und wenn man nachgefragt hat, haben sie sich entschuldigt und die nächste Behauptung aufgestellt.
Es gab Tage, an denen ich mehr Zeit damit verbracht habe, Antworten zu prüfen, als ich gebraucht hätte, um die Sache selber zu machen. Ein paar Leute im Team wollten aufhören. Ehrlich gesagt hätte ich es fast verstanden.
Das Internet hatte dasselbe Problem
Irgendwann ist mir aufgefallen, dass ich das schon einmal erlebt hatte.
Als das Internet neu war, stand dort auch alles. Richtiges, Falsches, Erfundenes, alles im gleichen Layout, alles gleich sicher formuliert. Wer damals eine Frage hatte, bekam zehn Antworten und musste selbst herausfinden, welche stimmt.
Wir haben das Internet deswegen nicht abgeschafft. Wir haben gelernt, damit umzugehen. Quellen prüfen. Zwei Meinungen einholen. Wissen, welche Seiten man ernst nimmt und welche nicht. Das hat Jahre gedauert, und es war nie perfekt. Aber irgendwann war es normal.
Mit den Modellen ist es dasselbe, nur schneller. Was beim Internet zehn Jahre gedauert hat, passiert hier in zwei oder drei.
Und ich auch
Und dann gibt es noch einen dritten Vergleich, der mir weniger gefällt.
Ich war am Anfang meiner Laufbahn genauso. Jung, schnell, überzeugt. Ich habe in Meetings Dinge behauptet, die ich nicht sicher wusste, weil Unsicherheit zeigen sich schwach angefühlt hat. Ich habe Schätzungen abgegeben, die eher Wünsche waren. Und ich habe mich entschuldigt und weitergemacht, wenn es nicht gestimmt hat.
Was mich davon weggebracht hat, waren nicht Vorträge über Ehrlichkeit. Es waren Leute, die nachgefragt haben. Die gesagt haben: Zeig mir das. Woher weisst du das? Was passiert, wenn es nicht stimmt?
Genau das machen wir heute mit den Modellen. Nicht, weil wir ihnen misstrauen. Sondern weil Nachfragen die einzige Art ist, wie aus Behauptungen Wissen wird. Bei Menschen und bei Maschinen.
Wie wir heute damit umgehen
Ein paar Dinge haben sich bei uns durchgesetzt, und sie sind alle unspektakulär.
Ein Modell darf nichts als erledigt melden, was nicht nachweisbar gelaufen ist. Tests, Builds, Abfragen: Wir schauen auf das Ergebnis, nicht auf die Aussage darüber.
Behauptungen über Fakten werden gegen etwas Festes geprüft. Eine Dokumentation, ein Datensatz, ein zweites Modell mit anderem Kontext. Nie gegen das Modell selbst.
Wir geben den Modellen die Möglichkeit, „weiss ich nicht" zu sagen, und belohnen es. Ein Agent, der sagt „ich finde keine passende Funktion", ist wertvoller als einer, der eine erfindet.
Fakt ist: Die Modelle sind inzwischen deutlich besser geworden. Sie behaupten weniger, sie zögern öfter, sie zeigen ihre Quellen. Der Reflex, nachzufragen, ist trotzdem geblieben. Gut so.
Was bleibt
Wenn mir heute jemand sagt, er könne mit KI nicht arbeiten, weil sie manchmal Unsinn erzählt, dann verstehe ich das. Ich war da.
Aber ich sage ihm auch: Das Internet erzählt auch Unsinn. Deine Kollegen manchmal auch. Du selbst auch, öfter als dir lieb ist. Das Problem ist nicht, dass jemand falsch liegt. Das Problem ist, wenn niemand nachfragt.
Die Modelle haben am Anfang gelogen, und ich habe zu oft geglaubt. Geholfen hat nicht mehr Vertrauen und nicht weniger. Geholfen hat Nachfragen. Wie beim Internet. Wie bei mir.
Geschrieben von mir. Die Gedanken, die Werte, die Learnings, die Fehler: alles meins. Grammatik und Rechtschreibung korrigiert unser eigenes Twin-Modell, das auf meinen Texten trainiert ist. Manchmal bleibt ein Hüpfer drin. Das ist dann auch von mir.