Was ist RAG (Retrieval-Augmented Generation)?
Problem
Abschnitt betitelt „Problem“Ein LLM kennt nur seine Trainingsdaten, nicht die internen Firmendokumente eines Kunden. Ohne Anbindung an aktuelle oder unternehmensspezifische Quellen entstehen Halluzinationen oder veraltete Antworten.
Die RAG-Lösung
Abschnitt betitelt „Die RAG-Lösung“RAG kombiniert Retrieval (Suche) mit Generation (Antworterstellung) in drei Schritten:
- Suche (Retrieval): Mit Embeddings werden semantisch passende Passagen aus einer Vektor-DB gefunden.
- Reranking (optional): Ein Reranker sortiert die Treffer nach echter Relevanz.
- Anfrage an LLM mit Kontext: Frage + gefundener Kontext werden an das LLM gesendet, das daraus die Antwort generiert.
Vorteile
Abschnitt betitelt „Vorteile“- Aktuelles Wissen ohne erneutes Training
- Quellen nachvollziehbar
- Günstiger als Fine-Tuning
noris Modelle für RAG
Abschnitt betitelt „noris Modelle für RAG“| RAG-Komponente | noris Modell | Aufgabe |
|---|---|---|
| Embedding | Harrier OSS v1 0.6B | Text → Vektoren für semantische Suche |
| Reranker | BGE Reranker v2 M3, Jina Reranker v2 | Sortiert Ergebnisse nach Relevanz |
| LLM (Generation) | Gemma 4, GPT-OSS, GLM 5.2, Qwen 3.6 | Generiert Antwort aus Frage + Kontext |
Eine praktische Schritt-für-Schritt-Anleitung finden Sie unter RAG-Pipeline.