Wissensdatenbank
Sie fragen in normalen Sätzen, geantwortet wird aus Ihrem eigenen Bestand. Bei jeder Auskunft steht die Fundstelle dabei, nicht bloß die Behauptung.
Simuliert Der Bestand, die Dokumente und die Antwort sind erfunden und vorbereitet. Hier läuft keine Suche und kein Sprachmodell. Gezeigt wird der Weg, den ein solches System nimmt, Schritt für Schritt.
Die Vorführung läuft am Computer oder Tablet. Am Handy wäre sie zu klein, um etwas zu erkennen; worum es geht, steht im Text.
Antwort aus dem eigenen Bestand
Nach mehr als sieben Tagen Unterbrechung ist vor der Wiederinbetriebnahme zu spülen. Den Turnus im laufenden Betrieb gibt die Betriebsanweisung vor, die letzte Spülung steht im Prüfprotokoll.
01 · Einlesen
Richtlinien, Handbücher, Protokolle und Verträge kommen so herein, wie sie sind.
Dateiname und Seitenzahl bleiben von Anfang an daran hängen.
Alles, was im Betrieb an Wissen herumliegt und niemand mehr findet: Herstellerrichtlinien, Verträge, Protokolle, Handbücher, Prüfberichte. Bei mir waren es knapp 2.000 Dokumente, es hätten auch zweihundert oder zwanzigtausend sein können. Die Zahl ist mein eigener Bestand, kein Merkmal des Systems.
Was das System liest: PDF-Dateien, gescannte Ordner mit Texterkennung, Word- und Textdateien. Was es nicht liest, sind Pläne. Eine DWG-Zeichnung enthält Linien und Symbole, keinen zusammenhängenden Text. Was auf einem Plan steht, muss als Text danebenliegen, sonst existiert es für das System nicht.
Der Speicherplatz ist selten die Grenze. Pinecone, ein Anbieter für die Suche in solchen Systemen, spricht in der eigenen Dokumentation von „Namensräumen im Millionenbereich und darüber“ (Pinecone, Understanding indexes). Ein System wie meines stößt mit ein paar tausend oder auch einigen hunderttausend Dokumenten technisch an keine Wand.
Von 75 % auf unter 40 %
Die Forscher nennen das Vektorsuche-Verwässerung: In einem großen, gemischten Bestand verlieren ähnliche Dokumente ihre Unterscheidbarkeit, und die Suche findet zunehmend etwas zum Thema, aber nicht zur Frage. Trennung nach Themenbereich hat die Trefferquote in derselben Untersuchung wieder deutlich angehoben. Das trifft sich mit meiner eigenen Erfahrung: Nicht die Menge macht ein System gut, sondern die Abgrenzung.
Sie stellen eine Frage in normaler Sprache. Das System sucht dazu die passenden Stellen in Ihren eigenen Dokumenten. Diese Stellen bekommt das Sprachmodell zusammen mit der Frage vorgelegt und schreibt daraus die Antwort, mit der Fundstelle dazu. Der englische Fachbegriff dafür ist Retrieval-Augmented Generation, kurz RAG: Auffinden plus Textgenerierung, statt Textgenerierung allein.
Gefragt wird in normalen Sätzen, so wie man einen Kollegen fragen würde. Die Frage wird nicht nach Stichwörtern durchsucht, sondern nach Bedeutung. Wer „Leckagetest“ eingibt, findet auch den Abschnitt über die Dichtheitsprüfung, obwohl das Wort dort nicht vorkommt. Warum das funktioniert, steht im Beitrag Wie ein Modell Bedeutung misst.
Eine Antwort ohne Beleg hilft auf der Baustelle keinem Menschen.
Das war die wichtigste Lehre aus einem Jahr Betrieb. Niemand unterschreibt eine Auskunft, die er nicht nachschlagen kann.
Deshalb steht bei jeder Antwort, woher sie stammt: Datei, Kapitel, Seite. Ein Klick öffnet das Original an der richtigen Stelle. Das klingt nach einer Kleinigkeit und ist der Unterschied zwischen Spielzeug und Werkzeug. Es hat einen zweiten Nutzen: Ein falscher Treffer fällt beim Nachschlagen sofort auf. Eine erfundene Auskunft ohne Beleg nicht.
Gebaut habe ich das für die eigene Baustelle. Das Prinzip trägt aber überall dort, wo Antworten in einem großen Textbestand versteckt sind:
Es denkt nicht mit. Es weiß nichts, was nicht eingelesen wurde, und es merkt nicht, wenn eine Vorgabe inzwischen überarbeitet wurde. Fehlt die neue Fassung, antwortet es aus der alten, mit derselben Selbstsicherheit wie sonst. Die Pflege der Quellen ist keine Nebensache, sondern die eigentliche Arbeit.
Es ersetzt auch keine Entscheidung. Es findet die Stelle, an der etwas steht. Ob das für den Fall gilt, entscheidet weiterhin ein Mensch, der dafür geradesteht. Ohne gepflegte Quellen und ohne Fundstelle bei jeder Antwort ist es ein Ratewerkzeug mit gutem Ton, kein Nachschlagewerk.
Das hängt vom Aufbau ab, und es ist die Frage, die vor allen anderen geklärt gehört. Die Dokumente selbst liegen im eigenen Haus. Was an ein Sprachmodell geht, ist die Frage und der gefundene Abschnitt, nicht der ganze Bestand. Wer auch das vermeiden will, betreibt das Modell selbst, zahlt dafür aber mit Rechenleistung und Wartung. Was dabei zu klären ist, steht im Beitrag Wo Ihre Daten landen.
Kleiner anfangen. Ich habe zu Beginn zu viel auf einmal hineingegeben. Sinnvoller wäre gewesen: der eine Dokumentenberg, der am meisten wehtut, zuerst. Wenn der funktioniert und die Leute ihn benutzen, kommt der nächste dazu.
