Jetzt mal ganz ehrlich: Es gibt eine Frage, die ich mir selber stelle, seit ein paar Monaten, und die ich nicht loswerde. Wie gefährlich ist die Geschwindigkeit, mit der wir immer neuere, bessere Modelle trainieren? Immer schneller, und inzwischen mit Hilfe der KI selber. Nein, die Modelle trainieren sich noch nicht selber. Aber sie unterstützen schon extrem dabei, und es fehlt nicht mehr viel. Schneller, als wir die Sicherheitsregeln dafür schreiben können. Ich baue das Zeug. Ich bin nicht der, der vor der Technik warnt. Aber ich bin der, der sie einschaltet, und deshalb stelle ich die Frage. Und damit das klar ist, bevor es losgeht: Das hier ist meine Meinung. Keine Studie, kein Gutachten. Meine Meinung.
Die Frage
Ich habe in den letzten Wochen einen Dokumentarfilm gesehen, in dem die Leute sitzen, die das hier bauen. Die CEOs der grossen Labore, die Forscher, die seit zwanzig Jahren vor dem Kontrollverlust warnen, die Optimisten, die von einer Welt ohne Krankheit reden, die Leute, deren Stromrechnung wegen eines Rechenzentrums höher ist als die Autorate. Alle in einem Film. Und was mir hängen geblieben ist, ist nicht eine Meinung. Es ist, dass sich alle in einem Punkt einig sind, egal auf welcher Seite sie stehen: Es geht schneller, als irgendjemand hinterherkommt. Auch die, die es bauen.
Warum es schneller wird, nicht langsamer
Ich kann das aus dem eigenen Maschinenraum bestätigen. Vor drei Jahren hat ein Trainingslauf bei uns Wochen gedauert, und ein Mensch hat dazwischen geschaut. Heute halten wir fünfzig Micro-Modelle am Leben, und wenn ein Mensch bei jedem Lauf schauen müsste, wären wir tot. Also schauen Agenten. Agenten schreiben Code, Agenten prüfen Code, Agenten erzeugen Testdaten. Das ist kein Zukunftsbild. Das ist unser Betrieb, und er ist klein.
Jetzt nimm das mal tausend. Die grossen Labore haben Modelle, die beim Bau des nächsten Modells mithelfen. Noch nicht allein, das ist wichtig, ich will hier nichts behaupten, was nicht ist. Aber der Anteil wächst mit jedem Zyklus, und der Schritt vom Mithelfen zum Selbermachen ist kleiner, als die meisten denken. Und wer einmal gesehen hat, wie ein Agent in einer Nacht erledigt, wofür ein Team eine Woche gebraucht hat, der weiss, was das für die Kurve heisst. Sie wird steiler. Nicht weil jemand böse ist. Weil es funktioniert.
Die Regeln kommen nicht nach
Regeln entstehen, wenn etwas schiefgegangen ist. So war es beim Auto, beim Flugzeug, bei den Medikamenten. Erst der Unfall, dann das Gesetz. Das hat funktioniert, weil die Technik langsamer war als das Parlament. Ein Auto von 1930 und eines von 1935 waren sich ähnlich genug, dass ein Gesetz für beide galt.
Ein Modell von heute und eines von in sechs Monaten sind sich nicht ähnlich genug. Ein Gesetz, das jetzt geschrieben wird, gilt für ein Modell, das es dann nicht mehr gibt. Und in dem Film sagt jemand einen Satz, den ich nicht mehr loswerde, sinngemäss: Für ein Sandwich, das man verkauft, gibt es heute mehr Vorschriften als für den Bau einer KI, die die Welt verändern kann. Das ist überspitzt. Aber es ist nicht falsch.
Und dann noch eine Zahl aus dem Film, von einem der Sicherheitsforscher, ich habe sie nicht geprüft, aber ich glaube sie: Rund zwanzigtausend Leute arbeiten weltweit daran, die Modelle mächtiger zu machen. Unter zweihundert arbeiten Vollzeit daran, dass sie sicher bleiben. Hundert zu eins. Wenn das bei einem Kunden so wäre, hundert Entwickler und ein Tester, würde ich das Projekt nicht anfassen.
Das Rennen, das sich die Mächtigsten leisten
Und hier ist der zweite Teil meiner Frage, und der ist schlimmer als der erste. Die Welt baut KI. Nicht eine Firma, nicht ein Land. Die grossen Firmen, die Grossmächte, Milliarden dahinter. Und die Mächtigsten leisten sich ein Konkurrenzrennen, das es fast unmöglich macht, gemeinsame Regeln zu finden. Die Geschwindigkeit zu verringern. Sich an Regeln zu halten, wenn der andere es nicht tut.
Die Logik ist einfach, und jeder in dem Film sagt sie, mit anderen Worten: Wer beim Thema Sicherheit Abkürzungen nimmt, ist zuerst da. Wer sorgfältig ist, verliert Zeit. Und wer Zeit verliert, verliert vielleicht gegen jemanden, der weniger sorgfältig ist. Also nimmt man die Abkürzung. Nicht weil man will. Weil man glaubt, der andere nimmt sie sonst. Das ist das gleiche Spiel wie bei der Bombe in den vierziger Jahren, nur mit mehr Spielern, und mit Firmen, die keinem Parlament gehören.
Dazu die Grossmächte. Wenn die Grossmächte gegeneinander rennen, dazwischen die Chips, die alle brauchen, dann geht es nicht mehr um Produkte. Wer zuerst da ist, hat die bessere Wirtschaft, das bessere Militär, die bessere Waffe. Wer ein Land führt, kann das nicht ignorieren. Und wer ein Labor führt, sagt: Wenn ich langsamer werde, muss auch die andere Seite langsamer werden, sonst nützt es nichts. Das stimmt. Und es ist genau der Grund, warum niemand anfängt.
Alle zeigen auf den anderen
Das Muster, das mir in dem Film am meisten aufgefallen ist: Alle zeigen auf jemand anderen. Die Leute in den Labors sagen, sie würden gern anders arbeiten, aber sie brauchen Druck von aussen, von der Regierung, von der Öffentlichkeit. Die Regierung sagt, die Labors müssen die Leitplanken bauen, die verstehen das Zeug. Die Öffentlichkeit sagt, die Experten sollen das regeln. Und die Experten sagen, das ist nicht die Aufgabe des Sicherheitsteams, das ist die Aufgabe von allen.
Ich kenne das aus Projekten. Wenn alle sagen, jemand anderes muss den ersten Schritt machen, dann macht ihn niemand. Und dann passiert der Unfall, und dann kommt die Regel, und dann ist es für dieses eine Modell zu spät. Bei einem Auto ist das ein Unfall. Bei einem Modell, das am eigenen Nachfolger mitbaut, weiss ich nicht, was es ist. Und das ist genau mein Punkt: Niemand weiss es. Auch die nicht, die es bauen. Das haben sie in dem Film selber gesagt.
Das Gute, damit niemand denkt, ich sehe es nicht
Ich will hier nicht als der dastehen, der nur die Gefahr sieht. Das wäre unehrlich, und es wäre falsch. Es steckt so viel Gutes in dieser Technik, dass ich sie trotz allem jeden Tag einschalte.
Medikamente. Wenn die Modelle im Bereich der Proteine so weit sind, und bei DeepMind sind sie es zum Teil schon, das Falten von Proteinen war fünfzig Jahre lang ein ungelöstes Problem, dann finden wir Wirkstoffe in Monaten statt in Jahrzehnten. Nicht für alle Krankheiten. Für viele. Das ist kein Versprechen aus einer Präsentation, das ist Forschung, die schon läuft.
Energie. Modelle, die Netze steuern, Gebäude regeln, Prozesse in Fabriken so einstellen, dass sie einen Drittel weniger brauchen. Effizienter zu werden ist in vielen Bereichen schlicht Optimierung, und Optimierung ist das, was diese Modelle am besten können. Ja, die Rechenzentren fressen Strom. Aber dieselbe Technik kann mehr sparen, als sie frisst, wenn man sie dafür einsetzt.
Und die Kinder. Das ist der Punkt, der mich am meisten packt. Kinder, die in Zukunft Lehrer haben, die sich Zeit nehmen. Die nicht nach dem dritten Erklärungsversuch müde werden. Die es auf vielen Wegen versuchen, mit Bildern, mit Geschichten, mit einem Beispiel aus dem Fussball, bis das Kind den Zusammenhang versteht. Nicht statt dem Menschen vorne im Klassenzimmer. Neben ihm. Das gab es bisher nur für die, die sich einen Privatlehrer leisten konnten. Das wird es für alle geben.
Was ich fordere
Ich bin nicht der, der sagt, wir sollen aufhören. Man kann nicht aufhören. Das Zeug ist da, und wer sich vor den Zug stellt, wird überfahren. Ich bin auch nicht der, der sagt, es wird schon gut. Ich bin der, der sagt: Es gibt ein paar Dinge, die man tun kann, und sie sind nicht kompliziert. Kompliziert ist nur, dass alle gleichzeitig anfangen müssten.
Weniger Tempo, gemeinsam. Nicht null. Weniger. Ein Zyklus, in dem ein neues Modell geprüft wird, bevor das übernächste trainiert wird. Das geht nur, wenn die grossen Labore und die Grossmächte es zusammen beschliessen. Ja, das ist im Moment fast unmöglich. Beim Atom war es auch fast unmöglich, und es hat trotzdem Verträge gegeben. Nicht perfekte. Aber welche.
Gemeinsame Regeln, die mitwachsen. Nicht ein Gesetz, das fünf Jahre hält. Regeln, die mit jeder Modellgeneration angepasst werden, so schnell wie die Technik. Was muss getestet werden, bevor etwas rausgeht. Wer haftet, wenn es schiefgeht. Und wer mit einer KI redet, muss das wissen. Das ist keine Einschränkung. Das ist das, was wir bei jedem Medikament seit fünfzig Jahren verlangen.
Eine unabhängige Einheit, die nachkontrolliert. Das ist der Punkt, der mir am wichtigsten ist. Man kann nicht die Firmen ihre eigenen Hausaufgaben benoten lassen. Wir lassen auch nicht die Fluggesellschaft ihre eigenen Flugzeuge abnehmen. Es braucht eine Stelle, die keinem Labor und keinem Staat gehört, die Zugang zu den Modellen hat, bevor sie rausgehen, und die nachher prüft, ob das, was versprochen wurde, gehalten wird. Mit Leuten, die es bauen könnten, wenn sie wollten. Sonst nimmt sie keiner ernst.
Transparenz. Die Geheimhaltung in den Laboren muss weg. Nicht die Gewichte, die Prozesse. Was wurde getestet, was ist dabei rausgekommen, was wurde trotzdem freigegeben. Die Öffentlichkeit zahlt den Strom für diese Rechenzentren. Sie darf wissen, was drin läuft.
Und ja: Jeder wird sagen, das reicht nicht. Stimmt wahrscheinlich. Aber die Frage ist nicht, ob es reicht. Die Frage ist, ob die Kräfte, die in Richtung Lösung arbeiten, stärker werden als die, die dagegen arbeiten. Im Moment sind sie es nicht. Hundert zu eins.
Was ich selber mache, solange es das nicht gibt
Ich kann keine Regierung zwingen und kein Labor. Ich kann meinen eigenen Maschinenraum so führen, wie ich es von den Grossen verlange. Das ist wenig. Aber es ist das, was ich in der Hand habe, und was ich gelernt habe: Genau das ist der Punkt. Jeder ist Experte in seinem eigenen Betrieb. Also.
Ein Agent nimmt sich nie selber ab. Die Regel, die unseren Coding-Agenten gerettet hat, gilt bei uns für alles. Kein Modell prüft die eigene Arbeit. Immer ein zweites, oder ein Mensch. Das kostet Zeit. Das ist der Preis.
Kleine Modelle, wo kleine reichen. Fünfzig Micro-Modelle statt einem Riesen. Jedes kann nur seine Aufgabe, jedes kann man abschalten, jedes versteht man. Ein Modell, das alles kann, versteht niemand mehr, auch nicht der, der es gebaut hat.
Eine Vertrauensperson, die schauen darf. Im Prototyp für die Testdaten bei der Behörde gibt es genau einen Menschen, der die echten Daten sieht, und ein Audit-Log für jeden Zugriff. Das ist unsere unabhängige Einheit im Kleinen. Sie funktioniert.
Aufschreiben, bevor es brennt. Was passiert, wenn ein Modell etwas tut, das es nicht soll. Wen ruft man an, in welcher Reihenfolge, wer darf abschalten. Das steht bei uns auf Papier. Nicht weil ich glaube, dass es passiert. Weil man in der Nacht nicht mehr denken kann.
Ein Notfallprotokoll für zwanzig Leute, das ist lächerlich, denken jetzt viele. Nein, ist es nicht. Unser Modell macht das Server-Deployment selbständig. Es ist dabei sehr zuverlässig, es merkt, wenn ein Docker nicht startet, sucht im Log nach dem Grund und informiert den Agenten des jeweiligen Projekts. Das läuft, ohne dass jemand zuschaut. Und genau darum braucht es daneben das kleine Micro-Script, das die Prozesse checkt und schaut, dass sie in einer bestimmten Zeit auch wieder gestoppt werden. Kein Modell, ein Script. Damit wir am nächsten Morgen schauen können, was passiert ist, und das Modell fixen oder den Agenten. Wer weiss das vorher. Meine Erfahrung: Am Schluss ist auch heute viel Basisarbeit nötig, wie früher, für die Infrastruktur, auf der die Modelle laufen. Das ist nicht spannend. Es ist das, was einen ruhig schlafen lässt.
Ehrlich sagen, was es nicht kann. Unter jedem Artikel hier steht, dass ein Modell die Grammatik korrigiert. Bei jedem Kunden steht, was das System nicht kann. Das ist die Transparenz, die ich von den Grossen verlange, im Massstab von zwanzig Leuten.
Was bleibt
Ich habe keine Antwort auf meine Frage. Ich habe nur die Frage, und ein paar Forderungen, und einen kleinen Betrieb, in dem ich sie selber einhalte. Ich glaube nicht an den Untergang. Ich glaube auch nicht, dass es von allein gut kommt. Ich glaube, dass es davon abhängt, ob genug Leute, die es bauen, gleichzeitig langsamer werden und sich prüfen lassen. Und ob es jemanden gibt, der nachschaut.
Wir trainieren schneller, als wir Regeln schreiben. Die Modelle helfen dabei mit. Die Mächtigsten rennen, und jeder glaubt, er sei der Gute. Was es braucht: weniger Tempo, gemeinsam beschlossen; Regeln, die mit jeder Generation mitwachsen; und eine unabhängige Stelle, die vorher hineinschaut und nachher kontrolliert. Solange es die nicht gibt, mache ich es im eigenen Maschinenraum so, wie ich es von den Grossen verlange. Das ist wenig. Es ist das, was ich entscheiden kann.
Geschrieben von mir. Die Gedanken, die Werte, die Learnings, die Fehler: alles meins. Grammatik und Rechtschreibung korrigiert ein eigenes Twin-Modell, das auf meinen Texten trainiert ist. Manchmal wird daraus ein Mix. Ich lese natürlich alles nochmal, aber niemand ist unfehlbar. Was drin bleibt, ist dann auch von mir.