Ich habe ein Sprachmodell nach einer ÖNORM gefragt und eine ausführliche, sicher klingende Antwort bekommen. Beim Nachschlagen stellte sich heraus: Die Norm gibt es, aber der zitierte Abschnitt stand so nie darin. Das Modell hatte aus dem, was es über Normen gelernt hatte, etwas zusammengebaut, das plausibel aussah.
Solche Antworten versteht man erst, wenn man weiß, woher das Wissen eigentlich kommt.
Aus Text, nicht aus Wissen
Ein Sprachmodell hat keine Datenbank, in der Fakten stehen. Es hat Text gesehen, sehr viel davon, und dabei gelernt, welche Wörter in welchen Zusammenhängen aufeinander folgen. Was als Wissen erscheint, ist Häufigkeit: Wenn in Millionen Texten auf „Die Hauptstadt von Österreich ist" fast immer „Wien" folgt, dann antwortet das Modell Wien.
Daraus ergeben sich drei Eigenschaften, die man kennen muss.
Es gibt einen Stichtag. Das Training endet zu einem Zeitpunkt. Was danach passiert ist, kennt das Modell nicht, auch wenn es überzeugend darüber redet. Bei einer Norm, die letztes Jahr überarbeitet wurde, ist das keine Kleinigkeit.
Häufig geschlagen sticht selten geschlagen. Über die Hauptstadt von Österreich stehen Millionen Sätze im Netz. Über den Abschnitt 6.3 einer österreichischen Fachnorm vielleicht keiner. Bei bekannten Dingen liegt das Modell fast immer richtig, bei seltenen fast immer daneben. Der Ton bleibt derselbe.
Was fehlt, wird ersetzt. Ein Modell antwortet nicht mit „weiß ich nicht", solange es eine wahrscheinliche Wortfolge bilden kann. Es füllt die Lücke mit dem, was in ähnlichen Fällen dasteht.
Was in den Daten steckt, kommt wieder heraus
Die Zusammensetzung der Trainingsdaten prägt das Ergebnis auf eine Weise, die sich später nicht mehr herausrechnen lässt. Die Hersteller machen dazu unterschiedlich genaue Angaben; Meta nennt für Llama 3 etwa den Umfang und den Anteil nicht-englischer Texte (Meta AI, 2024).
Der Anteil ist der entscheidende Punkt. Ein Modell, das überwiegend englischsprachigen Text gesehen hat, ist im Deutschen schwächer, und in österreichischem Fachdeutsch noch einmal schwächer. Nicht weil es Deutsch nicht könnte, sondern weil es davon weniger gesehen hat.
Dasselbe gilt für Inhalte. Wenn in den Daten eine Sichtweise überwiegt, überwiegt sie auch in den Antworten. Das ist kein Fehler im Modell, es ist eine getreue Wiedergabe dessen, was es gelesen hat. Was daraus folgt, steht im Beitrag über Bias.
Was ich daraus mache
- Fachliches wird nachgeschlagen, nicht gefragt. Für Normen, Gesetze und Herstellerangaben nutze ich das Modell zum Formulieren, nicht als Quelle.
- Eigene Unterlagen kommen ins System, nicht ins Modell. Genau dafür gibt es eine Wissensdatenbank: Das Modell bekommt den passenden Abschnitt mitgeliefert und antwortet daraus, mit Fundstelle.
- Bei allem, was nach 2024 passiert ist, frage ich nach dem Stichtag. Die meisten Oberflächen nennen ihn auf Nachfrage.
- Je spezieller die Frage, desto genauer die Prüfung. Bei einer allgemeinen Erklärung kann ich lockerer sein. Bei einer Zahl aus einem Regelwerk nie.