Glossar

RAG

Warum die Qualität Ihrer Dokumente wichtiger ist als das eingesetzte Modell.

Kurz erklärt

Retrieval Augmented Generation.

Ein Sprachmodell beantwortet eine Frage nicht aus seinem Training, sondern auf Basis von Dokumenten, die vorher gezielt herausgesucht wurden.

Der Ablauf hat zwei Schritte. Zuerst durchsucht das System Ihre Dokumente nach den Stellen, die zur Frage passen. Erst danach bekommt das Sprachmodell diese Stellen zusammen mit der Frage vorgelegt.

Der Unterschied zu einem allgemeinen Chatbot: Die Antwort stammt aus Ihren Unterlagen und lässt sich auf die Quelle zurückführen. Ändert sich ein Dokument, ändert sich die Antwort.

Was es nicht ist

Vier verbreitete Missverständnisse.

  • Kein Training auf Ihre Daten

    Ihre Dokumente werden nachgeschlagen, nicht einprogrammiert. Das ist eher ein Vorteil.

  • Keine Garantie für Richtigkeit

    Findet die Suche die falsche Stelle, entsteht eine flüssig formulierte falsche Antwort.

  • Kein Ersatz für Ordnung

    RAG durchsucht, was da ist — auch veraltete Fassungen.

  • Keine Rechteverwaltung

    Wer was sehen darf, muss davor geklärt sein, nicht danach.

Für den Mittelstand

Was das konkret bedeutet.

Die entscheidende Erkenntnis ist unbequem: Die Qualität der Antwort hängt fast vollständig an der Qualität Ihrer Dokumente, kaum am eingesetzten Modell. Ein RAG-System auf einem ungeordneten Laufwerk liefert Unordnung schneller aus.

Praktisch heißt das: Der Aufwand liegt vor der KI, nicht in ihr. Wer das erledigt hat, kann den KI-Teil später mit überschaubarem Aufwand aufsetzen und das Modell austauschen, ohne von vorn anzufangen.

Im Einsatz

Eine typische Situation.

Ein Servicetechniker steht vor einer Maschine in einer älteren Ausführung und braucht das Wartungsintervall für genau diese Variante. Die Information steht in einem von vierzig Dokumenten. Ein RAG-System findet die Stelle und nennt die Quelle. Der Techniker kann prüfen, ob es die richtige ist.

Zurück zum Wissensbereich

Wo lohnt es sich für Sie anzufangen?

Im Gespräch ordnen wir Ihre Ausgangslage ein und klären, welcher nächste Schritt für Ihr Unternehmen sinnvoll ist.

Ob RAG bei Ihnen trägt, hängt an Ihren Dokumenten. Diese Frage lässt sich ohne großen Aufwand vorab klären.

Erstgespräch vereinbaren

In etwa 30 Minuten ordnen wir Ihre Ausgangslage ein und klären, welcher nächste Schritt für Ihr Unternehmen sinnvoll ist.

Wie wir mit den Angaben aus diesem Formular umgehen, erläutert unsere Datenschutzerklärung.