Woher ein Modell weiß, was es weiß

Ich habe ein Sprachmodell nach einem Aktenzeichen gefragt und eine ausführliche, sicher klingende Antwort bekommen. Beim Nachschlagen stellte sich heraus: Das Aktenzeichen gibt es, aber der zitierte Inhalt stand so nie darin. Das Modell hatte aus dem, was es über solche Schreiben gelernt hatte, etwas Plausibles zusammengebaut.

Solche Antworten versteht man erst, wenn man weiß, woher das Wissen kommt.

Aus Text, nicht aus Wissen

Ein Sprachmodell hat keine Datenbank, in der Fakten stehen. Es hat Text gesehen, sehr viel davon, und dabei gelernt, welche Wörter in welchen Zusammenhängen aufeinander folgen. Was als Wissen erscheint, hängt stark an Häufigkeit: Wenn in Millionen Texten auf „Die Hauptstadt von Österreich ist" fast immer „Wien" folgt, dann antwortet das Modell Wien.

Daraus ergeben sich drei Eigenschaften.

Es gibt einen Stichtag. Das Training endet zu einem Zeitpunkt. Was danach passiert ist, kennt das Modell nicht, auch wenn es überzeugend darüber redet. Bei einer Vorschrift, die letztes Jahr überarbeitet wurde, ist das keine Kleinigkeit.

Häufiges schlägt Seltenes. Über die Hauptstadt von Österreich stehen Millionen Sätze im Netz. Über den Wortlaut eines einzelnen Aktenvermerks vielleicht keiner. Bei bekannten Dingen liegt das Modell meist richtig, bei seltenen steigt das Risiko einer erfundenen Antwort. Der Ton bleibt derselbe.

Was fehlt, wird ersetzt. Ein Modell antwortet selten mit „weiß ich nicht", solange es eine wahrscheinliche Wortfolge bilden kann. Es füllt die Lücke mit dem, was in ähnlichen Fällen dasteht.

Was in den Daten steckt, kommt wieder heraus

Die Zusammensetzung der Trainingsdaten prägt das Ergebnis. Nachtraining und Schranken zur Laufzeit können daran etwas verschieben, sauber herausrechnen lässt sie sich nicht. Die Hersteller machen dazu unterschiedlich genaue Angaben; Meta nennt für Llama 3 etwa den Umfang und den Anteil nicht-englischer Texte (Meta AI, 2024¹).

Der Anteil ist der entscheidende Punkt. Meine Erfahrung dazu: Bei österreichischem Fachdeutsch, bei Aktenzeichen und bei Begriffen aus der Gebäudetechnik habe ich die schwächeren Antworten gesehen. Belegt ist mit der Quelle oben der Datenanteil, nicht diese Rangfolge; wie gut ein bestimmtes Modell im Deutschen ist, muss man am eigenen Fall messen.

Dasselbe gilt für Inhalte. Wenn in den Daten eine Sichtweise überwiegt, überwiegt sie auch in den Antworten. Das ist kein Fehler im Modell, sondern eine getreue Wiedergabe des Gelesenen. Was daraus folgt, steht im Beitrag über Bias.

Was ich daraus mache

• Fachliches wird nachgeschlagen, nicht gefragt. Für Vorschriften, Gesetze und Herstellerangaben nutze ich das Modell zum Formulieren, nicht als Quelle.
• Eigene Unterlagen kommen ins System, nicht ins Modell. Genau dafür gibt es eine Wissensdatenbank: Das Modell bekommt den passenden Abschnitt mitgeliefert und antwortet daraus, mit Fundstelle.
• Bei allem, was nach 2024 passiert ist, prüfe ich den Stichtag. Ich schlage ihn in der Modelldokumentation nach, nicht beim Modell selbst; Anthropic etwa führt ihn in der Modellübersicht².
• Je spezieller die Frage, desto genauer die Prüfung. Bei einer allgemeinen Erklärung kann ich lockerer sein. Bei einer Zahl aus einem Regelwerk nie.