Angenommen, Sie haben ein Leistungsverzeichnis mit dreißig Positionen im Chatfenster und lassen sich die Summe je Titel ausrechnen. Die Antwort kommt sauber formatiert, jede Zeile stimmt, nur die Summe unten ist um ein paar hundert Euro daneben. Zwei Stunden später, nach einer langen Besprechung im selben Verlauf, fragen Sie nach dem Einheitspreis aus Position 12. Das Modell nennt eine Zahl, die dort nie gestanden ist. Beides ist kein Ausrutscher. Beides ist Bauart.
Rechnen ist für das Modell eine Textaufgabe
Ein Sprachmodell erzeugt Text, indem es Stück für Stück das wahrscheinlichste nächste Zeichenstück wählt. Das gilt auch für Zahlen. Ein Rechenwerk hat das Modell nicht; was es an Rechnen kann, hat es als Muster aus dem Training, welche Zeichenfolge auf „Summe:" meistens folgt. Bei kleinen, häufigen Aufgaben trifft das Muster. Bei dreißig Zeilen mit krummen Beträgen und Mengen wird die Kette der Zwischenschritte lang, und irgendwo darin rutscht ein Übertrag.
Dziri und Kollegen haben das an mehrstelligen Multiplikationen untersucht. Ihr Befund: Die Modelle lösen solche Aufgaben, indem sie bekannte Teilmuster aneinanderreihen, nicht durch ein systematisches Verfahren. Je mehr Schritte nötig sind, desto schneller bricht die Trefferquote ein (Dziri u. a. 2023, Faith and Fate). Was das mit Zeichenstücken auf sich hat und warum das Modell deshalb auch beim Zählen schwächelt, steht im Beitrag über Tokens.
Der Ausweg ist kein besseres Modell, sondern ein Werkzeug, das rechnet. Anthropic bietet dafür in seiner Schnittstelle eine Codeausführung an: Das Modell schreibt ein kleines Programm, das Programm rechnet, das Ergebnis kommt zurück in den Text (Anthropic, Code execution tool). Ob das Werkzeug mitgelaufen ist, schaue ich in der Antwort nach: Wird kein ausgeführter Code angezeigt, rechne ich selbst nach.
Der Denkmodus zerlegt, er ersetzt das Rechenwerkzeug nicht
Neuere Modelle haben einen Denkmodus. Bevor sie antworten, schreiben sie Zwischenschritte auf. Wei und Kollegen haben 2022 gezeigt, dass Modelle mit solchen Zwischenschritten bei Textaufgaben mit Rechenanteil deutlich besser abschneiden als ohne (Wei u. a. 2022, Chain-of-Thought Prompting). Das Zerlegen hilft also. Es hilft, weil eine Aufgabe in kleinen Schritten näher an den Mustern liegt, die das Modell kennt. Der einzelne Schritt bleibt aber ein Textschritt. Wer sich auf den Denkmodus verlässt, bekommt bessere Chancen, keine Gewissheit. Für Positionssummen bleibe ich beim Rechenwerkzeug.
Was das Modell weiß, steht in der Eingabe
Die zweite Grenze ist das Gedächtnis. Ein Sprachmodell hat kein Gedächtnis im Sinn von Ablage. Es sieht bei jeder Antwort genau eines: den bisherigen Verlauf plus die neue Frage. Anthropic nennt das in seiner Dokumentation das Kontextfenster und beschreibt es als Arbeitsgedächtnis des Modells; alles, was das Modell heranziehen kann, muss darin stehen (Anthropic, Context windows).
Daraus folgen zwei Dinge. Erstens: Ist der Verlauf lang, wird er nicht gleichmäßig gelesen. Liu und Kollegen haben Modellen lange Eingaben gegeben und die gesuchte Angabe an verschiedene Stellen gesetzt. Am Anfang und am Ende wurde sie zuverlässig gefunden, in der Mitte deutlich schlechter (Liu u. a. 2023, Lost in the Middle). Für den Fall vom Anfang kommt noch etwas dazu. Dieselbe Anthropic-Seite beschreibt, dass mit wachsender Länge Genauigkeit und Erinnerung sinken, dort context rot genannt, und dass Chat-Oberflächen die ältesten Teile des Verlaufs nach dem Prinzip first in, first out fallen lassen können. Das Leistungsverzeichnis vom Beginn des Gesprächs ist nach zwei Stunden Besprechung also entweder nur noch unscharf greifbar oder zum Teil gar nicht mehr im Fenster.
Zweitens: Was nicht in der Eingabe steht, ist nicht da. Anbieter wie Anthropic haben eine Gedächtnisfunktion nachgerüstet, die Angaben über Sie zwischen Gesprächen aufhebt. Sie wird als einzelne Einträge angelegt und während des Chats gelesen und aktualisiert (Anthropic, Chat search and memory). Technisch ist das nichts anderes als Text, der wieder in die Eingabe geschrieben wird. Das Modell selbst merkt sich nichts.
Darauf achte ich
- Summen, Massen, Einheitspreise: rechnen lassen, nicht schätzen lassen. Wenn kein Werkzeug gelaufen ist, gilt die Zahl als unbelegt.
- Ein langer Verlauf ist kein Vorteil. Was wichtig ist, stelle ich neu an den Anfang, statt zu hoffen, dass es aus Seite drei noch gefunden wird.
- Ein neues Thema bekommt ein neues Gespräch. Das Leistungsverzeichnis lade ich dort frisch hoch, statt mich auf den alten Verlauf zu verlassen.
- Was das Modell wissen soll, muss ich ihm geben, jedes Mal. Bei den knapp 2.000 Dokumenten der Wissensdatenbank läuft genau das im Hintergrund: Die passenden Absätze werden bei jeder Frage in die Eingabe geholt, weil das Modell sie sonst schlicht nicht kennt.