Angenommen, ein Bauleiter will sich „eine eigene KI" für seine Mängellisten bauen lassen. Er stellt sich ein Modell vor, das seine Baustellen kennt, seine Firmen, seine Art zu formulieren. Was er tatsächlich braucht, ist ein fertiges Modell, das beim Antworten in seine Protokolle schaut. Das ist ein Unterschied von Wochen Arbeit, und er entscheidet sich an einer einzigen Frage: Wie viel baue ich selbst?
Fünf Bauhöhen
Ich zähle fünf Stufen, jede höher als die davor.
Eins: eine fertige Anwendung benutzen. Chatfenster, Assistent im Textprogramm, Werkzeug im Browser. Nichts bauen, sofort anfangen. Wo die Eingaben dabei landen, steht in Beitrag 12.
Zwei: ein Modell über die Schnittstelle in die eigene Anwendung holen. Das Programm ist meines, das Modell miete ich. Meine Angebotsprüfung steht hier: Das PDF kommt herein, das Programm liest die Positionen aus, vergleicht sie mit dem Leistungsverzeichnis und markiert Abweichungen in einer Liste. Das Modell weiß nichts von mir, es bekommt jedes Mal alles mitgeliefert, was es braucht.
Drei: eigene Daten anbinden. Das Modell bleibt fremd, aber es bekommt vor jeder Antwort die passenden Stellen aus meinen Unterlagen vorgelegt. Meine Wissensdatenbank und der Normenassistent stehen hier, dazu die Praxis in Beitrag 38.
Vier: ein bestehendes Modell anpassen. Nachtrainieren mit eigenen Beispielen. Das Modell verändert sich, die Beispiele muss man erst einmal haben, und was es danach kann, muss man messen.
Fünf: ein eigenes Modell bauen. Von Grund auf, mit eigenen Daten und eigener Rechenleistung.
Jede Stufe höher kostet Bauzeit, Betrieb und Pflege. Und jede Stufe höher braucht mehr, was man am Anfang nicht hat: Daten, Beispiele, Leute.
Fakten anbinden, nicht eintrainieren
Die häufigste Verwechslung sitzt zwischen Stufe drei und vier. Wer will, dass das Modell seine Unterlagen kennt, denkt an Training. Tatsächlich zeigt die Forschung das Gegenteil. Ovadia u. a. haben 2023 verglichen, ob Modelle neues Wissen besser durch Nachtrainieren oder durch Nachschlagen aufnehmen. In ihrer Versuchsanordnung taten sich die Modelle schwer, neue Fakten durch unüberwachtes Nachtrainieren aufzunehmen; das Nachschlagen aus angebundenen Quellen schnitt durchgehend besser ab, bei bekanntem wie bei völlig neuem Wissen (Ovadia u. a., arXiv:2312.05934). Das Verfahren dahinter, ein Modell mit einem durchsuchbaren Speicher zu koppeln, beschrieben Lewis u. a. schon 2020 (arXiv:2005.11401).
Auch die Anbieter selbst raten zur Reihenfolge. OpenAI schreibt in seiner Anleitung, man solle zuerst Prüfmaße festlegen, dann an der Fragestellung arbeiten, und Nachtrainieren erst danach und nur für manche Fälle in Betracht ziehen (OpenAI, Model optimization). Für das überwachte Nachtrainieren empfiehlt dieselbe Dokumentation, mit fünfzig sorgfältig gebauten Beispielen zu beginnen und das Ergebnis zu messen, bevor man mehr hineinsteckt (OpenAI, Supervised fine-tuning).
Meine Faustregel daraus: Anpassen lohnt für Form und Ton, wenn das Modell immer wieder auf dieselbe Weise antworten soll. Für Fakten lohnt es nicht. Fakten ändern sich, und eine angebundene Quelle tauscht man aus, ein trainiertes Modell nicht.
Eigenbau ist Forschung
Stufe fünf ist kein Bauvorhaben, sondern ein Forschungsvorhaben. Ein Beispiel dafür, was das heißt: AlphaFold, das Modell für Proteinstrukturen, wurde nach Angaben der Autoren auf 128 TPU-v3-Kernen rund eine Woche trainiert, plus vier weitere Tage Feinabstimmung, und die Veröffentlichung trägt über dreißig Namen (Jumper u. a., Nature 596, 2021). Wer das im Betrieb nachbauen will, braucht die Daten, die Rechner und die Leute. Für ein Bauunternehmen kenne ich keinen Fall, in dem das die richtige Höhe wäre.
Darauf achte ich
Bevor ich anfange, lege ich die Höhe fest, und ich fange immer eine Stufe tiefer an, als mir das Vorhaben zunächst nahelegt.
- Reicht das Chatfenster mit einer guten Vorlage? Meine Besprechungsprotokolle laufen so: Aufnahme hinein, Entwurf heraus, ich lese Korrektur. Früher 60 bis 90 Minuten Schreibarbeit, heute höchstens zehn samt Korrekturlesen. Stufe eins.
- Wiederholt sich der Handgriff und muss das Ergebnis in eine Tabelle oder ein System? Stufe zwei, wie in Beitrag 14 beschrieben.
- Soll das Modell aus meinen Unterlagen antworten, mit Fundstelle? Stufe drei.
- Erst wenn drei nicht reicht, denke ich über vier nach, und dann zuerst über die Beispiele und das Messen, nicht über das Modell.
Alle meine Werkzeuge stehen auf den unteren drei Stufen. Nicht weil vier und fünf schlecht wären, sondern weil bei keinem Vorhaben der Punkt kam, an dem drei zu wenig war.
Für die Mängellisten des Bauleiters hieße das: Stufe drei, die Listen als Speicher anbinden, Antwort samt Fundstelle. Eine eigene KI braucht dafür niemand.