RAG-Systeme: KI, die Ihr Geschäft kennt
Gjethe baut Retrieval-Augmented-Generation-Systeme (RAG), mit denen KI Fragen aus Ihren eigenen Dokumenten und Daten beantwortet, mit Quellenangaben. Wir übernehmen die Aufnahme aus PDFs, Wikis, Hilfecentern und Datenbanken, Chunking und Embeddings, hybride Suche mit Reranking, Zugriffskontrolle pro Nutzer, Bewertung der Antwortqualität sowie eine Chat- oder API-Oberfläche.
- Kostenlose Erstberatung
- Schriftliches Angebot für Ihr Projekt
- Flexible Zahlungsmeilensteine
Auf einen Blick
- Quellen
- PDF, Word, Wikis, Hilfecenter, Datenbanken
- Antworten
- Mit Quellenangabe
- Zugriff
- Gefiltert nach Nutzerberechtigungen
- Oberfläche
- Chat, API oder in Ihrer App
Definition
Was ist RAG-Systeme?
Retrieval-Augmented Generation (RAG) ist eine Technik, bei der ein KI-System zuerst eine Dokumentensammlung nach Passagen durchsucht, die für eine Frage relevant sind, und dann eine Antwort ausschließlich auf Basis dieser Passagen erzeugt, sodass Antworten Ihre aktuellen Informationen widerspiegeln und ihre Herkunft belegen können.
Ein allgemeines KI-Modell weiß viel über die Welt und nichts über Ihre Verträge, Richtlinien, Produkte oder Verfahren. RAG verbindet beides: Es schlägt in Ihrem Material nach, bevor es antwortet. Der größte Teil der Qualität kommt aus unspektakulärer Arbeit (Dokumente bereinigen, sinnvoll aufteilen, die richtigen Passagen abrufen und die Ergebnisse messen), und genau dort stecken wir den meisten Aufwand hinein. Wir testen Antworten an echten Fragen Ihres Teams, bevor sich jemand im Alltag auf das System verlässt.
Für wen ist es geeignet?
Organisationen mit großen Wissensbasen
Richtlinien, Verfahren und Handbücher, die Mitarbeiter schwer durchsuchen können, was zu wiederholten Fragen und uneinheitlichen Antworten führt.
Support-Teams
Mitarbeiter und Kunden, die genaue Antworten aus Produktdokumentation und früheren Tickets brauchen.
Rechts-, Compliance- und Finanzteams
Verträge, Vorschriften und Berichte, bei denen Antworten auf die genaue Klausel oder Zahl verweisen müssen.
Produkte mit KI-Suche
SaaS- und Content-Produkte, bei denen Nutzer Fragen zu ihren eigenen Daten stellen sollen.
Was enthalten ist und was Sie behalten
Was enthalten ist
- Inventar der Quellen und Zugriffsanforderungen
- Dokument-Parsing für PDF, Word, HTML und Tabellen
- Bereinigung, Deduplizierung und Metadaten
- Chunking-Strategie, abgestimmt auf Ihre Dokumente
- Embeddings und Vektorindex
- Hybride Stichwort- und semantische Suche
- Reranking für Präzision
- Antwortgenerierung mit Quellenangaben
- Berechtigungsbewusstes Retrieval
- Automatische Neuindizierung bei Inhaltsänderungen
- Auswertungsset und Qualitätskennzahlen
- Chat-Oberfläche oder API
Was Sie erhalten
Wird am Ende übergeben. Gehört Ihnen.
- RAG-System mit Ingestion-Pipeline bereitgestellt
- Chat-Oberfläche oder API für Ihre Anwendungen
- Evaluationsbericht: Genauigkeit, Quellenbindung, Zitierqualität
- Admin-Werkzeuge für Quellen und Neuindizierung
- Architektur- und Wartungsdokumentation
Wie funktioniert ein RAG-System?
Zwei Pipelines: Die eine bereitet Ihre Inhalte auf, die andere beantwortet damit Fragen.
Indexierung: läuft, wenn sich Ihre Inhalte ändern
Ihre Quellen
PDFs, Dokumente, Hilfecenter, Datenbankzeilen
Zerlegen und bereinigen
In Abschnitte teilen, Titel und Metadaten behalten
Einbetten
Jeden Abschnitt in einen Vektor umwandeln
Vektorspeicher
Pinecone, Qdrant, pgvector…
Beantwortung: läuft bei jeder Frage
Frage
Aus Chat, API oder einem internen Tool
Abrufen
Hybride Suche, dann die besten Abschnitte neu ranken
Generieren
Das Modell antwortet nur aus diesen Abschnitten
Antwort mit Quellenangabe
Mit Links zurück zur Quelle
Woher kommt die Qualität bei RAG tatsächlich?
Parsing: Gescannte PDFs, Tabellen und mehrspaltige Layouts verlieren bei naiver Extraktion ihren Sinn. Wir nutzen Parser, die zu jedem Format passen, und prüfen die Ausgabe, denn eine Antwort kann nur so gut sein wie der Text, auf dem sie beruht.
Chunking und Retrieval: Passagen müssen groß genug sein, um Kontext zu tragen, und klein genug, um präzise zu sein. Wir kombinieren semantische Suche mit Stichwortsuche (unverzichtbar für Produktcodes, Namen und Zahlen) und ranken die Ergebnisse neu, damit die besten Passagen das Modell erreichen.
Auswertung: Wir bauen ein Set echter Fragen mit bekannten Antworten auf und messen Retrieval- und Antwortqualität vor dem Start und nach jeder Änderung. Ohne das sind Verbesserungen Vermutungen.
RAG oder Fine-Tuning?
| RAG | Fine-Tuning | |
|---|---|---|
| Bringt dem Modell bei | Fakten aus Ihren Dokumenten, zum Zeitpunkt der Frage | Einen Stil, ein Format oder eine eng gefasste Aufgabe |
| Bleibt aktuell | Ja, Dokumente aktualisieren | Nein, braucht erneutes Training |
| Quellenangaben | Ja | Nein |
| Am besten für | Fragen aus sich ändernden Informationen beantworten | Einheitliches Ausgabeformat oder spezialisiertes Verhalten |
So funktionieren RAG-Systeme, Schritt für Schritt
Jeder Schritt hat ein klares Ergebnis, das Sie prüfen können. Der Zeitrahmen wird in Ihrem Angebot vereinbart.
- 1
Quellenaudit
Welche Inhalte es gibt, wo sie liegen, wer sie sehen darf und wie oft sie sich ändern.
- 2
Datenaufnahme
Parser, Bereinigung und Metadaten für jede Quelle, mit automatischen Updates.
- 3
Retrieval-Design
Chunking, Embeddings, hybride Suche und Reranking, abgestimmt auf Ihre Inhalte.
- 4
Generierung
Antwort-Prompts mit Quellenangaben, Ablehnungsregeln und Ausgabeformaten.
- 5
Auswertung
Genauigkeit und Quellenbindung, gemessen an einem Testset, das mit Ihren Experten erstellt wurde.
- 6
Integrieren und starten
Chat-Oberfläche, API oder Einbettung in Ihr Produkt, mit Monitoring.
Tools und was Ihr Angebot beeinflusst
Die Preisgestaltung richtet sich nach Ihrem Projekt und wird in Ihrem Angebot vereinbart. Diese Faktoren bestimmen es.
| Faktor | Warum er wichtig ist |
|---|---|
| Menge und Vielfalt der Quellen | Viele Formate und Systeme bedeuten mehr Parser und Konnektoren. |
| Dokumentqualität | Scans, komplexe Tabellen und uneinheitliche Formatierung brauchen zusätzliche Verarbeitung. |
| Zugriffskontrolle | Die Beachtung von Berechtigungen pro Nutzer über mehrere Quellen hinweg erfordert zusätzliches Design und Tests. |
| Genauigkeitsanspruch | Bereiche mit hohen Einsätzen brauchen größere Auswertungssets und strengere Antwortregeln. |
| Hosting-Anforderungen | Selbst gehostete Modelle und Vektorspeicher kosten in der Einrichtung mehr als Managed Services. |
| Integration | Ein eigenständiger Chat ist einfacher, als Antworten in bestehende Tools einzubetten. |
| Bereich | Tools |
|---|---|
| Parsing | Unstructured, LlamaParse, individuelle Parser, OCR für Scans |
| Vektorspeicher | pgvector, Qdrant, Pinecone, Weaviate |
| Embeddings & Reranker | OpenAI, Cohere, Voyage, Open-Source-Modelle |
| Orchestrierung | LlamaIndex, LangChain, Vercel AI SDK |
| Auswertung | Ragas, individuelle Testsets, Langfuse |
Häufige Fehler, die Sie vermeiden sollten
Was bei uns am häufigsten schiefgeht und wie ein gutes Projekt es vermeidet.
Alles unbearbeitet indexieren
Veraltete, doppelte und widersprüchliche Dokumente führen zu veralteten, widersprüchlichen Antworten. Zuerst kuratieren.
Nur Vektorsuche
Semantische Suche übersieht exakte Begriffe wie Produktcodes und Namen. Kombinieren Sie sie mit Stichwortsuche.
Berechtigungen ignorieren
Wenn das Retrieval Zugriffsrechte nicht beachtet, kann die KI Dokumente preisgeben, die ein Nutzer nicht sehen sollte.
Kein Evaluationsset
Ohne Testfragen weiß niemand, ob das System gut ist oder ob die letzte Änderung es kaputtgemacht hat.
Häufig gestellte Fragen
Was ist RAG in einfachen Worten?
RAG heißt, die KI schlägt nach, bevor sie antwortet. Statt sich auf das im Training Gelernte zu verlassen, durchsucht sie Ihre Dokumente, liest die relevanten Passagen und antwortet daraus.
Ist RAG besser als Fine-Tuning?
Für das Beantworten von Fragen aus Ihren Inhalten meist ja. RAG bleibt aktuell, wenn sich Dokumente ändern, und kann Quellen nennen. Fine-Tuning ist besser, um einem Modell einen Stil oder eine eng gefasste Aufgabe beizubringen.
Kann es berücksichtigen, wer was sehen darf?
Ja. Wir hängen Berechtigungen an Dokumente und filtern das Retrieval nach Nutzer, sodass Menschen nur Antworten aus Inhalten bekommen, auf die sie zugreifen dürfen.
Können die Daten auf unseren eigenen Servern bleiben?
Ja. Wir können Open-Source-Embedding- und Sprachmodelle auf Ihrer Infrastruktur betreiben, sodass Dokumente sie nie verlassen.
Funktioniert es mit gescannten PDFs und Tabellen?
Ja, mit OCR und tabellenbewusstem Parsing. Diese Formate brauchen besondere Sorgfalt, deshalb prüfen wir die Parsing-Qualität vor dem Indizieren.
Wie gelangen Aktualisierungen von Dokumenten hinein?
Quellen werden automatisch neu indiziert, wenn sie sich ändern, oder nach Zeitplan, und entfernte Dokumente werden auch aus dem Index entfernt.
Kann es in einer anderen Sprache als die Dokumente antworten?
Ja. Mehrsprachige Embeddings und Modelle können zum Beispiel deutsche Dokumente für eine englische Frage abrufen und auf Englisch antworten.
Wie genau wird es sein?
Das hängt von Ihren Inhalten und Fragen ab. Wir messen die Genauigkeit vor dem Start an einem Testset und vereinbaren, welches Niveau für Ihren Anwendungsfall akzeptabel ist.
Können wir es in Slack oder Teams nutzen?
Ja. Dasselbe RAG-System kann einen Web-Chat, einen Slack- oder Teams-Bot und eine API für Ihre eigenen Apps antreiben.
Was kostet der Betrieb?
Hosting für den Index plus Modellnutzung pro Frage. Wir schätzen die Kosten anhand von Dokumentvolumen und erwarteten Fragen.
Können Antworten Tabellen oder Schritt-für-Schritt-Anleitungen enthalten?
Ja. Antworten können als Listen, Tabellen oder Schritte formatiert werden und die exakte Passage zitieren, wenn der Wortlaut zählt, etwa bei einer Vertragsklausel.
Was, wenn sich die Dokumente widersprechen?
Das System kann beide Quellen zeigen und sagen, dass sie sich widersprechen, statt stillschweigend eine zu wählen. Auf diese Weise gefundene Widersprüche sind nützliche Signale, um Ihre Dokumentation aufzuräumen.
Können wir sehen, welche Fragen gestellt wurden?
Ja. Fragen, abgerufene Quellen und Antworten werden mit minimierten personenbezogenen Daten protokolliert, sodass Sie Lücken erkennen und Inhalte verbessern können.
Verwandte Leistungen
KI-Chatbot-Entwicklung
Chatbots, die aus Ihren eigenen Inhalten antworten.
KI-Agenten-Entwicklung
KI, die in Ihren Tools Aktionen ausführt, mit Leitplanken.
KI-API-Integration
Sprach-, Bild- und Sprachmodelle in Ihrer Software.
Web Scraping & Datenextraktion
Strukturierte Daten aus Websites und Dokumenten.
Individuelle API-Entwicklung
Dokumentierte REST-, GraphQL- und WebSocket-APIs.
RAG-Systeme nach Branche
Bauen Sie Ihr RAG-System.
Sagen Sie uns, was Sie brauchen. Sie erhalten eine ehrliche Einschätzung, einen klaren Plan und ein schriftliches Angebot. Die erste Beratung ist immer kostenlos.
- Wie es weitergeht
- 1Sie sagen uns, was Sie brauchen
- 2Wir melden uns möglichst innerhalb von 24 Stunden mit Rückfragen
- 3Sie erhalten ein schriftliches Angebot für Ihr Projekt