Inhalt
  1. Erst finden, dann formulieren
  2. Die eigentliche Arbeit steckt im Datenbestand
  3. Eine Quellenangabe ist noch kein Beweis
  4. Wann RAG passt
  5. Quellen

Die Antwort auf eine technische Frage steht oft bereits im Unternehmen: in einer Anleitung, einer Serviceakte oder einem freigegebenen Datenblatt. Ein Sprachmodell kennt diese Unterlagen nicht automatisch. Retrieval-Augmented Generation, kurz RAG, ergänzt deshalb eine Suche vor der eigentlichen Antwort.

Erst finden, dann formulieren

Das Grundprinzip beschreibt Microsoft in seiner Dokumentation zu RAG: Passende Inhalte werden abgerufen und als Kontext für das Modell verwendet. Praktisch bedeutet das, dass der Assistent beispielsweise relevante Abschnitte einer Wartungsanleitung erhält. Er soll seine Antwort daraus bilden und die verwendeten Stellen nennen.

Das ersetzt keine saubere Dokumentenverwaltung. Eine Suche kann nur finden, was aufgenommen wurde. Liegen drei widersprüchliche Fassungen derselben Anleitung im Bestand, benötigt das System Regeln zu Gültigkeit, Produktversion und Freigabestatus. Sonst erklärt es womöglich eine alte Reparaturmethode mit großer sprachlicher Sicherheit.

Die eigentliche Arbeit steckt im Datenbestand

Beginne mit einem begrenzten Fachgebiet. Für einen Serviceassistenten könnten das freigegebene Unterlagen einer bestimmten Produktfamilie sein. Dokumente werden in sinnvolle Abschnitte zerlegt; Überschriften, Tabellenbezüge und Versionsinformationen sollten dabei erhalten bleiben. Ein Absatz ohne seinen Warnhinweis oder ohne die Einheit aus der Tabellenüberschrift kann missverständlich werden.

Prüffrage Warum sie zählt
Welche Fassung ist gültig? Verhindert Antworten aus überholten Unterlagen
Wer darf das Dokument lesen? Begrenzt auch den abrufbaren KI-Kontext
Ist die Fundstelle sichtbar? Ermöglicht eine fachliche Kontrolle

Eine Quellenangabe ist noch kein Beweis

Ein Assistent kann eine echte Quelle nennen und sie trotzdem falsch interpretieren. Prüfe deshalb getrennt, ob die Suche den richtigen Abschnitt findet und ob die Antwort diesen Abschnitt korrekt wiedergibt. Für einen Pilotversuch eignet sich eine Sammlung typischer Fragen mit fachlich geprüften Antworten. Ergänze Fälle, in denen die Unterlagen ausdrücklich keine Antwort enthalten.

Auch Berechtigungen gehören in diesen Test. Die Antwort darf nicht auf vertraulichen Dokumenten beruhen, die der fragende Mitarbeiter selbst nicht öffnen dürfte. Ein gemeinsamer Suchindex braucht daher eine wirksame Rechteprüfung beim Abruf; eine freundliche Anweisung an das Sprachmodell reicht dafür nicht.

Wann RAG passt

Denke auch an Löschungen und neue Fassungen. Wird eine Anleitung zurückgezogen, darf ihr Inhalt nicht dauerhaft als alter Suchabschnitt weiterleben. Ein Updateprozess muss deshalb nicht nur neue Dokumente aufnehmen, sondern überholte Informationen zuverlässig entfernen oder als ungültig markieren. Prüfe das mit einer bewusst geänderten Beispielunterlage. So wird sichtbar, wie lange ein Assistent benötigt, bis seine Antworten tatsächlich zum freigegebenen Wissensstand passen und die aktuelle Fundstelle nennen.

RAG ist besonders interessant, wenn Informationen häufig wechseln und ihre Herkunft sichtbar bleiben soll. Für eine einfache Berechnung oder eine eindeutige Stammdatenabfrage ist ein direktes Werkzeug oft geeigneter. Unsere Empfehlung für die Prozessplanung: Suche, Antwort und Berechtigung als drei eigenständige Funktionen behandeln. Wie du die Qualität misst, zeigt unser Beitrag über Evaluation von KI-Agenten.

Quellen & weiterführende Informationen