Was ein Modell überhaupt ist, und wie es lernt

Ein Kollege fragte mich, ob „die KI" erkennen könne, wann eine Pumpe ausfällt. Ich fragte zurück: ChatGPT? Er meinte ja. Wir haben zehn Minuten aneinander vorbeigeredet, bevor klar war: Er wollte ein Modell, das aus Messwerten eine Vorhersage macht. Das ist etwas anderes als ein Chat, auch wenn beides „KI" heißt.

Kein Programm, sondern eine abgeleitete Funktion

Klassische Software besteht aus Regeln und Rechenverfahren, die jemand hingeschrieben hat. Wenn der Druck unter drei bar fällt, dann Alarm. Ein Optimierer rechnet aufwendiger, sein Lösungsweg steht ebenso im Quelltext.

Ein Modell entsteht anders. Man gibt ihm Beispiele und lässt es selbst herausfinden, welcher Zusammenhang darin steckt. Am Ende steht kein Regelwerk, sondern eine Funktion mit sehr vielen Zahlen darin, den sogenannten Parametern. Diese Zahlen sind das Ergebnis des Trainings. Niemand hat sie einzeln festgelegt, und niemand kann sie einzeln erklären.

Genau deshalb kann ein Modell Dinge, die niemand programmiert hat. Und genau deshalb macht es Fehler, die niemand vorhergesehen hat.

Die EU-Verordnung definiert ein KI-System als etwas, das aus Eingaben ableitet, wie Ausgaben erzeugt werden, und dabei nach seiner Betriebsaufnahme anpassungsfähig sein kann (Verordnung (EU) 2024/1689, Artikel 3¹). Auf dem Wort „ableiten" liegt dabei das Gewicht: Wie die Ausgabe zustande kommt, steht nicht als Regel im Quelltext.

Drei Arten zu lernen

Überwachtes Lernen. Man zeigt dem Modell Beispiele mit der richtigen Antwort. Tausend Bilder, jedes mit der Angabe, ob ein Riss darauf ist. Danach kann es neue Bilder einordnen. Diese Art braucht beschriftete Daten. Genau daran scheitern die meisten Vorhaben: Die Daten liegen vor, die Beschriftung fehlt.

Unüberwachtes Lernen. Man zeigt Beispiele ohne Antwort und lässt das Modell Muster finden. Es gruppiert, was sich ähnelt, oder meldet, was aus der Reihe fällt. Nützlich, wenn man nicht weiß, wonach man suchen soll.

Bestärkendes Lernen. Das Modell probiert etwas und bekommt Rückmeldung, ob es besser oder schlechter geworden ist. So hat DeepMind ein Programm auf Go trainiert, das den amtierenden Europameister Fan Hui 5:0 schlug (Silver u. a., Nature 529, 2016²). Diese Art braucht keine beschrifteten Beispiele, dafür ein Belohnungssignal und eine Umgebung, in der sich Millionen Versuche bewerten lassen.

Große Sprachmodelle kombinieren mehrere Stufen: erst riesige Textmengen, in denen das nächste Textstück die Antwort liefert, das nennt sich selbstüberwacht, dann Beispiele mit gewünschter Antwort, meist noch Rückmeldung von Menschen. Die Stufen unterscheiden sich je Modell.

Was das praktisch heißt

Bevor ich sage, ob KI ein Problem löst, kläre ich drei Dinge:

• Gibt es Beispiele mit richtiger Antwort? Dann ist überwachtes Lernen möglich. Wenn nicht, wird ihre Erzeugung erfahrungsgemäß der teuerste Teil.
• Soll etwas gefunden oder etwas erzeugt werden? Einordnen und vorhersagen ist eine andere Aufgabe als Texte schreiben. Für das eine braucht es oft eigene Beispiele aus dem Betrieb, für das andere reicht meist ein fertiges Modell. Ganz ohne eigene Daten geht Einordnen zwar auch, verlässlich wird es für den eigenen Fall nach meiner Erfahrung aber erst mit eigenen Testfällen.
• Muss die Entscheidung erklärbar sein? Dann halte ich ein Modell mit Millionen Parametern für die falsche Wahl, egal wie gut es trifft.

Bei der Pumpe meines Kollegen war die Antwort: überwachtes Lernen, aber es gab keine beschrifteten Ausfälle. Die Messwerte lagen vor, nur wusste niemand mehr, wann welche Pumpe stehen geblieben war. Das Vorhaben scheiterte nicht an der KI. Es scheiterte an der Ablage.