%20(2).png)
- RAG steht für Retrieval Augmented Generation: Die KI sucht zuerst in Ihren eigenen Dokumenten und antwortet erst danach.
- Es wird kein Modell trainiert – Ihre Inhalte bleiben in einer durchsuchbaren Wissensbasis, die Sie jederzeit ändern können.
- Antworten lassen sich mit Quellenangabe ausgeben; das macht sie prüfbar und ist der entscheidende Unterschied zum freien Chatbot.
- Der Aufwand liegt selten in der Technik, sondern in der Frage, welche Dokumente aktuell, freigegeben und eindeutig sind.
- Ein sinnvoller Start ist ein abgegrenzter Anwendungsfall mit klarem Nutzerkreis, nicht das gesamte Firmenlaufwerk.
Was bedeutet RAG genau?
RAG bedeutet, dass ein Sprachmodell vor der Antwort in einer eigenen Wissensbasis nachschlägt und nur die gefundenen Textstellen als Grundlage verwendet. Das Modell erfährt die Firmeninhalte also erst im Moment der Frage – es hat sie nicht „gelernt“.
Technisch werden Dokumente in Abschnitte zerlegt, in einer Datenbank abgelegt und bei jeder Frage nach inhaltlicher Ähnlichkeit durchsucht. Die passendsten Abschnitte gehen zusammen mit der Frage an das Modell. Der praktische Effekt: Sie tauschen ein veraltetes Dokument aus, und die nächste Antwort ist aktuell – ohne Entwicklungsaufwand.
Warum kein eigenes Modell trainieren?
Für die meisten Anwendungsfälle im Mittelstand ist Training der falsche Weg, weil sich Firmenwissen ständig ändert und Training jedes Mal wiederholt werden müsste. RAG trennt das Wissen sauber vom Modell.
| Kriterium | RAG | Eigenes Training |
|---|---|---|
| Aktualisierung | Dokument austauschen, sofort wirksam | erneuter Trainingslauf nötig |
| Nachvollziehbarkeit | Antwort mit Quellenangabe möglich | Quelle im Modell nicht auffindbar |
| Rechteverwaltung | über die Wissensbasis steuerbar | im Modell nicht mehr trennbar |
| Einstiegsaufwand | vergleichsweise gering | hoch, mit Daten- und Rechenbedarf |
Welche Voraussetzungen braucht ein RAG-Projekt?
Die wichtigste Voraussetzung ist nicht technischer, sondern redaktioneller Natur: Es muss klar sein, welche Dokumente gelten. Wo drei Versionen einer Preisliste nebeneinanderliegen, liefert auch das beste System drei Antworten.
- Ein abgegrenzter Anwendungsfall mit benanntem Nutzerkreis
- Ein gepflegter Quellbestand mit klarer Zuständigkeit je Dokument
- Ein Berechtigungskonzept: Wer darf welche Inhalte sehen?
- Zugänge zu den Quellsystemen, etwa Dateiablage, Intranet oder Ticketsystem
- Eine Testliste mit echten Fragen aus dem Alltag, an der die Qualität gemessen wird
Wo liegen die Grenzen?
RAG beantwortet Fragen zu vorhandenen Inhalten – es erfindet keine Regeln und ersetzt keine Fachentscheidung. Wo Wissen nur in Köpfen steckt oder Dokumente widersprüchlich sind, wird das im Ergebnis sichtbar.
Typische Stolperstellen sind gescannte PDFs ohne Texterkennung, Tabellen mit impliziter Logik und Dokumente ohne Datum. Auch die Auswertung zählender Fragen („Wie viele Verträge laufen 2027 aus?“) gehört nicht in eine Wissensbasis, sondern in eine Datenbankabfrage. Ein sauber aufgesetztes System sagt in diesen Fällen, dass es keine belastbare Quelle gefunden hat – das ist ein Qualitätsmerkmal, kein Fehler.
Wie steigt man sinnvoll ein?
Der wirksamste Einstieg ist ein einzelner, häufig wiederkehrender Anwendungsfall mit messbarem Zeitgewinn – etwa Auskunftsfragen im Kundenservice, technische Rückfragen aus dem Außendienst oder das Nachschlagen interner Abläufe.
Checkliste für den Start
- Anwendungsfall wählen, der mindestens wöchentlich auftritt.
- Quellen benennen und je Dokument eine verantwortliche Person festlegen.
- Veraltete Dubletten aussortieren, bevor irgendetwas indexiert wird.
- 20 bis 30 echte Fragen sammeln und die erwarteten Antworten notieren.
- Berechtigungen klären: Welche Rolle sieht welche Inhalte?
- Pilot mit einer kleinen Nutzergruppe, Antworten mit Quelle ausgeben lassen.
- Nach vier Wochen messen: Trefferquote, Zeitersparnis, offene Lücken.
Häufige Fragen (FAQ)
Was ist der Unterschied zwischen RAG und einem normalen Chatbot?
Ein freier Chatbot antwortet aus dem, was im Modell steckt. Ein RAG-System sucht zuerst in Ihren eigenen Dokumenten und nutzt nur diese Fundstellen als Grundlage – die Antwort ist dadurch belegbar.
Müssen unsere Dokumente dafür neu geschrieben werden?
Nein. Meist reicht es, Dubletten zu entfernen, Zuständigkeiten festzulegen und gescannte Dateien mit Texterkennung nachzubereiten. Der Aufwand liegt in der Ordnung des Bestands, nicht im Neuschreiben.
Wie wird verhindert, dass jemand Inhalte sieht, die er nicht sehen darf?
Über ein Berechtigungskonzept auf der Ebene der Wissensbasis: Inhalte werden Rollen zugeordnet, und die Suche liefert nur Abschnitte aus, für die die anfragende Person freigegeben ist.
Wie lange dauert ein erster produktiver Anwendungsfall?
Das hängt vom Zustand der Quellen ab. Ist der Bestand gepflegt und der Anwendungsfall eng geschnitten, ist ein Pilot in wenigen Wochen nutzbar; unsortierte Ablagen verlängern vor allem die Vorbereitung.
RAG ist kein Großprojekt, sondern eine Frage der Ordnung: gute Quellen, ein klarer Anwendungsfall, messbare Ergebnisse. Wie wir Wissensbasen aufbauen und an bestehende Systeme anbinden, lesen Sie unter Wissensdatenbank. Wenn Sie einen konkreten Anwendungsfall im Kopf haben, sprechen Sie uns über die Kontaktseite an.