RAG mit PostgreSQL, pgvector und Ollama — Seminar für lokale KI-Suche auf eigenen Dokumenten
Mit RAG (Retrieval-Augmented Generation) beantwortet ein Sprachmodell Fragen aus deinen eigenen Dokumenten statt aus seinem Allgemeinwissen. In einem Tag baust du eine solche Suche vollständig selbst: PostgreSQL mit der Erweiterung pgvector wird zur Vektordatenbank, Ollama erzeugt die Embeddings und formuliert die Antwort mit einem lokalen Sprachmodell (LLM). Handbücher, Betriebsanleitungen, technische Dokumentation, Verträge, AGB, Versicherungsbedingungen und Gesetzestexte verlassen dabei nie das eigene Netzwerk. Ein optionaler zweiter Tag macht aus dem Prototyp ein System für den Unternehmenseinsatz: messbare Trefferqualität, Berechtigungen, technische Zeichnungen, Rechtstexte und Betrieb.
Keine zweite Datenbank, keine Cloud: Vektorsuche, Volltextsuche und Geschäftsdaten liegen gemeinsam in PostgreSQL. Du führst alle Übungen selbst an deinem Rechner mit einer lokalen KI durch. Die Übungen nutzen PHP, das Seminar ist auf Anfrage auch mit Python, Java, C# und anderen Sprachen möglich. Das Angebot richtet sich an Unternehmen, Behörden und öffentliche Einrichtungen, Vereine und Verbände sowie Selbstständige.
Für wen ist dieses Seminar
Für Entwicklerinnen und Entwickler, Datenbankadministratorinnen und -administratoren sowie Softwarearchitektinnen und -architekten, die eine KI-Suche auf eigenen Dokumenten bauen wollen, ohne Daten an einen Cloud-Anbieter zu geben. Typische Vorhaben sind eine Suche in Produktdokumentation, Handbüchern, Betriebs- und Bedienungsanleitungen, Wartungsunterlagen und Datenblättern, ein Assistent für den Support, die Recherche in Verträgen, Versicherungsbedingungen und Gesetzen oder die Wissensbasis einer Fachabteilung. Das Seminar eignet sich deshalb auch für IT-Teams in Versicherungen, Rechtsabteilungen und Behörden.
Was du mitbringen solltest
SQL-Grundlagen und Grundkenntnisse in einer Programmiersprache. Die Übungen für Import, Chunking und Abfragen nutzen PHP; der Kern des Seminars läuft in SQL und ist von der Programmiersprache unabhängig. Vorkenntnisse mit KI oder Vektordatenbanken brauchst du nicht. Der optionale zweite Tag setzt den ersten oder gleichwertige Kenntnisse voraus.
Wer eine lokale KI-Plattform mit Ollama für das ganze Unternehmen betreiben will, ist bei „Lokale KI im Unternehmen betreiben" richtig. Wer KI mit Claude und Ollama als Funktion in die eigene PHP-Anwendung einbauen will, findet das in „KI-Funktionen in PHP-Anwendungen entwickeln".
Detaillierte Inhalte
Tag 1: Die RAG-Suche Schritt für Schritt bauen
Am Ende des ersten Tages läuft bei dir eine vollständige RAG-Suche auf PostgreSQL. Als Übungsbestand wählt die Gruppe zwischen einem technischen Handbuch mit Betriebsanleitung und Ersatzteilliste, der Dokumentation einer Software, Unterlagen aus der Haustechnik, Musterverträgen und Versicherungsbedingungen oder Gesetzestexten.
Grundlagen: Wie findet eine Datenbank Bedeutung statt Wörter?
- Embeddings, Vektoren und Ähnlichkeitsmaße: Kosinus-Distanz, euklidische Distanz (L2) und Skalarprodukt
- Das Zusammenspiel von PostgreSQL, pgvector, Ollama und lokalem Sprachmodell
- Deutsch, Englisch oder beides gemischt: Welches Embedding-Modell passt? bge-m3, embeddinggemma, qwen3-embedding und nomic-embed-text im Vergleich
Dokumente schneiden (Chunking)
- Vom PDF, Word-Dokument oder der Webseite zum sauberen Text: Was geht dabei verloren?
- Wie groß darf ein Textstück sein, damit die Suche noch trifft?
- Feste Länge, Absatz oder Dokumentstruktur: Welches Verfahren liefert die besseren Treffer?
- Was passiert beim Schneiden mit Tabellen, Codeblöcken und Überschriften?
Datenmodell und Import
- Tabellen mit Vektorspalten anlegen:
vectoroderhalfvec? - Embeddings über die Ollama-API erzeugen und in großen Mengen speichern
- Welche Metadaten braucht man später, und was passiert, wenn das Embedding-Modell wechselt?
Vektorsuche und Indizes
- Exakte Suche oder Index: HNSW oder IVFFlat?
- Was bewirken
m,ef_constructionundef_search? - Ausführungspläne mit
EXPLAIN ANALYZElesen - Warum liefert eine Vektorsuche mit zusätzlichem Filter plötzlich zu wenige Treffer?
Hybrid-Suche
- Warum findet die Vektorsuche keine Teilenummern und Fehlercodes?
- Volltextsuche mit
tsvectorund Vektorsuche in einer Abfrage kombinieren: Reciprocal Rank Fusion (RRF)
Antworten mit einem lokalen Sprachmodell
- Den passenden Kontext zusammenstellen und an das Modell übergeben
- Wie nennt das Modell zuverlässig seine Quellen?
- Warum fehlt dem Modell plötzlich ein Teil des Kontexts?
- Was leisten kleine Modelle ohne Grafikkarte?
Tag 2 (optional): RAG im Produktivbetrieb
Der zweite Tag schließt die Lücke zwischen Prototyp und Unternehmenseinsatz und baut auf der Suche aus Tag 1 auf.
Trefferqualität messen
- Woran erkennt man eine gute Suche, wenn nicht am Bauchgefühl?
- Testfragen, Treffer@k und Recall: Was verliert ein Index gegenüber der exakten Suche?
- Chunking-Verfahren und Embedding-Modelle mit Zahlen vergleichen
Besserer Kontext, bessere Antworten
- Klein suchen, groß liefern: Was steckt hinter Parent-Child-Chunking?
- Doppelte Abschnitte, Tabellen und Überschriftenpfade
- Was bringt ein Reranking?
Berechtigungen
- Wie sieht jede Person nur die Dokumente, die sie sehen darf? Row-Level Security (RLS) für RAG
- Mandanten, Rollen und die Anwendung als Datenbanknutzer
Technische Zeichnungen und Schaltpläne
- Warum scheitert Texterkennung (OCR) an Zeichnungen?
- Vision-Modelle beschreiben Seiten: Was taugt das für die Suche?
- Schriftfeld, Revision und Stückliste als durchsuchbare Daten
- Ausblick: Seitenbilder direkt einbetten (ColPali)
Verträge, Versicherungsbedingungen und Gesetze
- Paragraf, Absatz, Klausel: Wie schneidet man Rechtstexte, ohne den Zusammenhang zu verlieren?
- Was macht die Suche mit Verweisen wie „gemäß § 5 Abs. 2“ und mit Begriffsbestimmungen am Anfang eines Vertrags?
- Welche Fassung gilt? Gültigkeitsdaten, Nachträge und alte Bedingungswerke in der Suche
- Wann muss die Antwort lauten: „Dazu steht nichts im Dokument“?
Aktualisierung und Betrieb
- Geänderte Dokumente erkennen und gezielt neu einbetten
- Wie gelingt ein Wechsel des Embedding-Modells?
- Speicherbedarf, Indexaufbau und
maintenance_work_mem - Hardware für Datenbank und Ollama richtig bemessen
Wahlteil
- Eigene Dokumente der Teilnehmenden, soweit erlaubt, oder Vertiefung eines Themas nach Wahl der Gruppe
Hinweis: Im Seminar laufen kleine Modelle ohne Grafikkarte. Bei Inhouse-Seminaren passen wir Schwerpunkte und Beispiele an deine Dokumente und deine Hardware an. Die obige Gliederung ist der geplante Standard-Aufbau.
Lieber Python, Java, C# oder JavaScript? Die Übungen nutzen PHP; Datenmodell, Suche und Indizes sind reines SQL und gelten für jede Sprache. Auf Anfrage führen wir das Seminar mit der Sprache deines Teams durch: Python, JavaScript und TypeScript (Node.js), Java, C# (.NET), Go oder PowerShell. Sprich uns einfach an.
Was du danach kannst
- PostgreSQL als Vektordatenbank einsetzen — Tabellen, Indizes und Abfragen mit pgvector entwerfen und mit
EXPLAIN ANALYZEprüfen. - Dokumente passend aufbereiten — Chunking-Verfahren und Embedding-Modell nach Sprache und Dokumenttyp wählen.
- Eine Hybrid-Suche bauen — Vektorsuche und Volltextsuche in PostgreSQL kombinieren.
- Antworten mit Quellen erzeugen — ein lokales Sprachmodell über Ollama mit dem gefundenen Kontext versorgen.
- Besondere Dokumenttypen erschließen (Tag 2) — technische Zeichnungen, Verträge, Versicherungsbedingungen und Gesetzestexte passend aufbereiten.
- Trefferqualität messen (Tag 2) — Suchverfahren und Modelle mit Zahlen vergleichen statt nach dem ersten Eindruck.
- Eine RAG-Suche sicher betreiben (Tag 2) — Berechtigungen, Aktualisierung, Modellwechsel und Speicherbedarf beherrschen.
Formate und Ablauf
| Format | Ablauf | Passend wenn |
|---|---|---|
| Inhouse vor Ort | Aufbau auf eigener Hardware, am zweiten Tag auf Wunsch mit euren Dokumenten | ihr die Suche direkt für ein eigenes Vorhaben vorbereiten wollt |
| Remote / Online | Gleicher Ablauf, per Video-Konferenz, mit bereitgestellter Übungsumgebung | verteilte Teams oder keine Reisezeit gewünscht |
Ein Tag Kern, optional ein zweiter Tag zum Produktivbetrieb. SQL-Skripte, Beispielcode und Übungsdaten zum Mitnehmen.
Verwandte Seminare und Vertiefung
Eine lokale KI-Plattform für das ganze Unternehmen auswählen, betreiben und warten: „Lokale KI im Unternehmen betreiben". Strukturierte Daten aus Fließtext gewinnen: „Lokale KI für Datenanalyse & Datenextraktion". KI als Funktion in der eigenen PHP-Anwendung: „KI-Funktionen in PHP-Anwendungen entwickeln". Für die Datenbankseite: „PostgreSQL Performance-Tuning" und „PostgreSQL Security und Härtung". Zum Weiterlesen: „pgvector: KI-Suche direkt in PostgreSQL", „Ollama und offene KI-Modelle" und „Ollama im Dauerbetrieb".
Wer eine RAG-Suche im eigenen Unternehmen einführen will und dabei Begleitung sucht, findet Unterstützung in der KI-Beratung.
Dein Dozent
Frank Glück schult seit mehr als 30 Jahren und programmiert seit 1986. Seit 1999 ist er auch als Dozent für die GFU tätig. PostgreSQL-Administration schult er zu jeder neuen Version im Jahr ihres Erscheinens; lokale KI betreibt er selbst im Dauerbetrieb, auf eigenen Servern und für das eigene Plattformprojekt.
Häufige Fragen (FAQ)
Wie lange dauert das Seminar?
Ein Tag für den Kern: die vollständige RAG-Suche vom Dokument bis zur Antwort. Ein optionaler zweiter Tag behandelt Trefferqualität, Berechtigungen, technische Zeichnungen, Rechtstexte und den Betrieb.
Brauchen wir eine eigene Vektordatenbank wie Pinecone, Milvus oder Qdrant?
Für die meisten Vorhaben nicht. pgvector macht die vorhandene PostgreSQL-Datenbank zur Vektordatenbank, mit Transaktionen, Backup und Rechten wie gewohnt. Wo die Grenzen liegen, ordnen wir im Seminar ein.
Wird im Seminar nur vorgeführt, oder üben wir selbst?
Jede Teilnehmerin und jeder Teilnehmer führt alle Übungen selbst am eigenen Rechner mit einer lokalen KI durch: Dokumente schneiden, Embeddings erzeugen, Indizes anlegen, suchen und das Sprachmodell antworten lassen. Am Ende des ersten Tages läuft bei dir eine eigene RAG-Suche.
Muss ich PHP können?
Nein. Die Übungen nutzen PHP, aber Datenmodell, Suche und Indizes sind reines SQL. Auf Anfrage führen wir das Seminar mit Python, JavaScript oder TypeScript, Java, C#, Go oder PowerShell durch.
Welche Dokumente lassen sich so durchsuchen?
Alles, was sich in Text umwandeln lässt: Handbücher, Betriebs- und Bedienungsanleitungen, Wartungsunterlagen, Datenblätter, Produkt- und Software-Dokumentation, interne Richtlinien und Arbeitsanweisungen, Verträge, AGB, Versicherungsbedingungen, Gesetze und Urteile. Wie gut die Suche später trifft, entscheidet sich oft schon bei der Umwandlung von PDF und Word in Text; auch das ist Thema im Seminar.
Eignet sich das für Verträge, Versicherungsbedingungen und Gesetze?
Ja, gerade dort ist die lokale Suche gefragt, weil Verträge und Schadensakten personenbezogene Daten enthalten. Rechtstexte haben aber eigene Tücken: Verweise zwischen Paragrafen, Begriffsbestimmungen, mehrere gültige Fassungen und die Pflicht zum genauen Zitat. Der zweite Tag hat dafür einen eigenen Block, mit Gesetzestexten und Versicherungsbedingungen als Übungsbestand.
Funktioniert das mit deutschen und englischen Dokumenten?
Ja, auch gemischt. Welches Embedding-Modell dafür am besten passt, vergleichst du im Seminar selbst.
Welche Hardware brauchen wir?
Für das Seminar keine Grafikkarte; die Übungen laufen mit kleinen Modellen. Für den Betrieb hängt der Bedarf von Datenmenge, Modell und Nutzerzahl ab, das behandelt der zweite Tag.
Können wir eigene Dokumente verwenden?
Bei Inhouse-Seminaren ja, am besten am zweiten Tag. In offenen Seminaren arbeiten wir mit Beispieldokumenten, eigene Unterlagen sind im Wahlteil möglich, soweit du sie verwenden darfst.
Findet das Seminar in Präsenz oder online statt?
Beides ist möglich, wahlweise als offenes Seminar oder als Inhouse-Schulung.
Was kostet die Teilnahme?
Der Preis richtet sich nach Format, Umfang und Teilnehmerzahl — gerne auf Anfrage.
Individuell anfragen
Nach deiner Anfrage klären wir Teamgröße, Programmiersprache, vorhandene Dokumente und Schwerpunkte und schicken dir einen Termin- und Inhaltsvorschlag.
Unsere Seminare richten sich an Unternehmen, Behörden und öffentliche Einrichtungen, Vereine und Verbände sowie Selbstständige. Es gelten unsere AGB.