RAG mit PostgreSQL, pgvector und Ollama — Seminar für lokale KI-Suche auf eigenen Dokumenten

Mit RAG (Retrieval-Augmented Generation) beantwortet ein Sprachmodell Fragen aus deinen eigenen Dokumenten statt aus seinem Allgemeinwissen. In einem Tag baust du eine solche Suche vollständig selbst: PostgreSQL mit der Erweiterung pgvector wird zur Vektordatenbank, Ollama erzeugt die Embeddings und formuliert die Antwort mit einem lokalen Sprachmodell (LLM). Handbücher, technische Dokumentation und interne Unterlagen verlassen dabei nie das eigene Netzwerk. Ein optionaler zweiter Tag macht aus dem Prototyp ein System für den Unternehmenseinsatz: messbare Trefferqualität, Berechtigungen, technische Zeichnungen und Betrieb.

RAG im eigenen Netzwerk: Dokumente werden mit Ollama in Embeddings umgewandelt, in PostgreSQL mit pgvector gespeichert und durchsucht; ein lokales Sprachmodell formuliert die Antwort mit Quellen. Vier Stationen von links nach rechts: Dokumente wie Handbücher, PDF und Wiki; Ollama erzeugt Embeddings; PostgreSQL mit pgvector speichert sie und sucht über Vektor- und Volltextsuche; ein lokales LLM antwortet mit Quellenangabe. Alles liegt innerhalb des eigenen Netzwerks. eigenes Netzwerk Dokumente Handbuch, PDF, Wiki Ollama Embeddings PostgreSQL + pgvector Vektor + Volltext Lokales LLM Antwort mit Quellen eine Datenbank für Geschäftsdaten, Vektoren und Rechte
Abbildung 1: Vom Dokument zur Antwort mit Quellenangabe — Suche und Sprachmodell laufen im eigenen Netzwerk.

Keine zweite Datenbank, keine Cloud: Vektorsuche, Volltextsuche und Geschäftsdaten liegen gemeinsam in PostgreSQL. Die Übungen nutzen PHP, das Seminar ist auf Anfrage auch mit Python, Java, C# und anderen Sprachen möglich. Das Angebot richtet sich an Unternehmen, Behörden und öffentliche Einrichtungen, Vereine und Verbände sowie Selbstständige.


Für wen ist dieses Seminar

Für Entwicklerinnen und Entwickler, Datenbankadministratorinnen und -administratoren sowie Softwarearchitektinnen und -architekten, die eine KI-Suche auf eigenen Dokumenten bauen wollen, ohne Daten an einen Cloud-Anbieter zu geben. Typische Vorhaben sind eine Suche in Produktdokumentation und Handbüchern, ein Assistent für den Support oder die Wissensbasis einer Fachabteilung.

Was du mitbringen solltest

SQL-Grundlagen und Grundkenntnisse in einer Programmiersprache. Die Übungen für Import, Chunking und Abfragen nutzen PHP; der Kern des Seminars läuft in SQL und ist von der Programmiersprache unabhängig. Vorkenntnisse mit KI oder Vektordatenbanken brauchst du nicht. Der optionale zweite Tag setzt den ersten oder gleichwertige Kenntnisse voraus.

Wer eine lokale KI-Plattform mit Ollama für das ganze Unternehmen betreiben will, ist bei „Lokale KI im Unternehmen betreiben" richtig. Wer KI mit Claude und Ollama als Funktion in die eigene PHP-Anwendung einbauen will, findet das in „KI-Funktionen in PHP-Anwendungen entwickeln".


Detaillierte Inhalte

Tag 1: Die RAG-Suche Schritt für Schritt bauen

Am Ende des ersten Tages läuft bei dir eine vollständige RAG-Suche auf PostgreSQL, gebaut an einem technischen Beispielhandbuch.

Grundlagen: Wie findet eine Datenbank Bedeutung statt Wörter?

  • Embeddings, Vektoren und Ähnlichkeitsmaße: Kosinus-Distanz, euklidische Distanz (L2) und Skalarprodukt
  • Das Zusammenspiel von PostgreSQL, pgvector, Ollama und lokalem Sprachmodell
  • Deutsch, Englisch oder beides gemischt: Welches Embedding-Modell passt? bge-m3, embeddinggemma, qwen3-embedding und nomic-embed-text im Vergleich

Dokumente schneiden (Chunking)

  • Wie groß darf ein Textstück sein, damit die Suche noch trifft?
  • Feste Länge, Absatz oder Dokumentstruktur: Welches Verfahren liefert die besseren Treffer?
  • Was passiert beim Schneiden mit Tabellen, Codeblöcken und Überschriften?

Datenmodell und Import

  • Tabellen mit Vektorspalten anlegen: vector oder halfvec?
  • Embeddings über die Ollama-API erzeugen und in großen Mengen speichern
  • Welche Metadaten braucht man später, und was passiert, wenn das Embedding-Modell wechselt?

Vektorsuche und Indizes

  • Exakte Suche oder Index: HNSW oder IVFFlat?
  • Was bewirken m, ef_construction und ef_search?
  • Ausführungspläne mit EXPLAIN ANALYZE lesen
  • Warum liefert eine Vektorsuche mit zusätzlichem Filter plötzlich zu wenige Treffer?

Hybrid-Suche

  • Warum findet die Vektorsuche keine Teilenummern und Fehlercodes?
  • Volltextsuche mit tsvector und Vektorsuche in einer Abfrage kombinieren: Reciprocal Rank Fusion (RRF)

Antworten mit einem lokalen Sprachmodell

  • Den passenden Kontext zusammenstellen und an das Modell übergeben
  • Wie nennt das Modell zuverlässig seine Quellen?
  • Warum fehlt dem Modell plötzlich ein Teil des Kontexts?
  • Was leisten kleine Modelle ohne Grafikkarte?

Tag 2 (optional): RAG im Produktivbetrieb

Der zweite Tag schließt die Lücke zwischen Prototyp und Unternehmenseinsatz und baut auf der Suche aus Tag 1 auf.

Trefferqualität messen

  • Woran erkennt man eine gute Suche, wenn nicht am Bauchgefühl?
  • Testfragen, Treffer@k und Recall: Was verliert ein Index gegenüber der exakten Suche?
  • Chunking-Verfahren und Embedding-Modelle mit Zahlen vergleichen

Besserer Kontext, bessere Antworten

  • Klein suchen, groß liefern: Was steckt hinter Parent-Child-Chunking?
  • Doppelte Abschnitte, Tabellen und Überschriftenpfade
  • Was bringt ein Reranking?

Berechtigungen

  • Wie sieht jede Person nur die Dokumente, die sie sehen darf? Row-Level Security (RLS) für RAG
  • Mandanten, Rollen und die Anwendung als Datenbanknutzer

Technische Zeichnungen und Schaltpläne

  • Warum scheitert Texterkennung (OCR) an Zeichnungen?
  • Vision-Modelle beschreiben Seiten: Was taugt das für die Suche?
  • Schriftfeld, Revision und Stückliste als durchsuchbare Daten
  • Ausblick: Seitenbilder direkt einbetten (ColPali)

Aktualisierung und Betrieb

  • Geänderte Dokumente erkennen und gezielt neu einbetten
  • Wie gelingt ein Wechsel des Embedding-Modells?
  • Speicherbedarf, Indexaufbau und maintenance_work_mem
  • Hardware für Datenbank und Ollama richtig bemessen

Wahlteil

  • Eigene Dokumente der Teilnehmenden, soweit erlaubt, oder Vertiefung eines Themas nach Wahl der Gruppe

Hinweis: Im Seminar laufen kleine Modelle ohne Grafikkarte. Bei Inhouse-Seminaren passen wir Schwerpunkte und Beispiele an deine Dokumente und deine Hardware an. Die obige Gliederung ist der geplante Standard-Aufbau.

Lieber Python, Java, C# oder JavaScript? Die Übungen nutzen PHP; Datenmodell, Suche und Indizes sind reines SQL und gelten für jede Sprache. Auf Anfrage führen wir das Seminar mit der Sprache deines Teams durch: Python, JavaScript und TypeScript (Node.js), Java, C# (.NET), Go oder PowerShell. Sprich uns einfach an.


Was du danach kannst

  1. PostgreSQL als Vektordatenbank einsetzen — Tabellen, Indizes und Abfragen mit pgvector entwerfen und mit EXPLAIN ANALYZE prüfen.
  2. Dokumente passend aufbereiten — Chunking-Verfahren und Embedding-Modell nach Sprache und Dokumenttyp wählen.
  3. Eine Hybrid-Suche bauen — Vektorsuche und Volltextsuche in PostgreSQL kombinieren.
  4. Antworten mit Quellen erzeugen — ein lokales Sprachmodell über Ollama mit dem gefundenen Kontext versorgen.
  5. Trefferqualität messen (Tag 2) — Suchverfahren und Modelle mit Zahlen vergleichen statt nach dem ersten Eindruck.
  6. Eine RAG-Suche sicher betreiben (Tag 2) — Berechtigungen, Aktualisierung, Modellwechsel und Speicherbedarf beherrschen.

Formate und Ablauf

Format Ablauf Passend wenn
Inhouse vor Ort Aufbau auf eigener Hardware, am zweiten Tag auf Wunsch mit euren Dokumenten ihr die Suche direkt für ein eigenes Vorhaben vorbereiten wollt
Remote / Online Gleicher Ablauf, per Video-Konferenz, mit bereitgestellter Übungsumgebung verteilte Teams oder keine Reisezeit gewünscht

Ein Tag Kern, optional ein zweiter Tag zum Produktivbetrieb. SQL-Skripte, Beispielcode und Übungsdaten zum Mitnehmen.


Verwandte Seminare und Vertiefung

Eine lokale KI-Plattform für das ganze Unternehmen auswählen, betreiben und warten: „Lokale KI im Unternehmen betreiben". Strukturierte Daten aus Fließtext gewinnen: „Lokale KI für Datenanalyse & Datenextraktion". KI als Funktion in der eigenen PHP-Anwendung: „KI-Funktionen in PHP-Anwendungen entwickeln". Für die Datenbankseite: „PostgreSQL Performance-Tuning" und „PostgreSQL Security und Härtung". Zum Weiterlesen: „pgvector: KI-Suche direkt in PostgreSQL", „Ollama und offene KI-Modelle" und „Ollama im Dauerbetrieb".

Wer eine RAG-Suche im eigenen Unternehmen einführen will und dabei Begleitung sucht, findet Unterstützung in der KI-Beratung.

Dein Dozent

Frank Glück schult seit mehr als 30 Jahren und programmiert seit 1986. Seit 1999 ist er auch als Dozent für die GFU tätig. PostgreSQL-Administration schult er zu jeder neuen Version im Jahr ihres Erscheinens; lokale KI betreibt er selbst im Dauerbetrieb, auf eigenen Servern und für das eigene Plattformprojekt.



Häufige Fragen (FAQ)

Wie lange dauert das Seminar?

Ein Tag für den Kern: die vollständige RAG-Suche vom Dokument bis zur Antwort. Ein optionaler zweiter Tag behandelt Trefferqualität, Berechtigungen, technische Zeichnungen und den Betrieb.

Brauchen wir eine eigene Vektordatenbank wie Pinecone, Milvus oder Qdrant?

Für die meisten Vorhaben nicht. pgvector macht die vorhandene PostgreSQL-Datenbank zur Vektordatenbank, mit Transaktionen, Backup und Rechten wie gewohnt. Wo die Grenzen liegen, ordnen wir im Seminar ein.

Muss ich PHP können?

Nein. Die Übungen nutzen PHP, aber Datenmodell, Suche und Indizes sind reines SQL. Auf Anfrage führen wir das Seminar mit Python, JavaScript oder TypeScript, Java, C#, Go oder PowerShell durch.

Funktioniert das mit deutschen und englischen Dokumenten?

Ja, auch gemischt. Welches Embedding-Modell dafür am besten passt, vergleichst du im Seminar selbst.

Welche Hardware brauchen wir?

Für das Seminar keine Grafikkarte; die Übungen laufen mit kleinen Modellen. Für den Betrieb hängt der Bedarf von Datenmenge, Modell und Nutzerzahl ab, das behandelt der zweite Tag.

Können wir eigene Dokumente verwenden?

Bei Inhouse-Seminaren ja, am besten am zweiten Tag. In offenen Seminaren arbeiten wir mit Beispieldokumenten, eigene Unterlagen sind im Wahlteil möglich, soweit du sie verwenden darfst.

Findet das Seminar in Präsenz oder online statt?

Beides ist möglich, wahlweise als offenes Seminar oder als Inhouse-Schulung.

Was kostet die Teilnahme?

Der Preis richtet sich nach Format, Umfang und Teilnehmerzahl — gerne auf Anfrage.


Individuell anfragen

Nach deiner Anfrage klären wir Teamgröße, Programmiersprache, vorhandene Dokumente und Schwerpunkte und schicken dir einen Termin- und Inhaltsvorschlag.

Unsere Seminare richten sich an Unternehmen, Behörden und öffentliche Einrichtungen, Vereine und Verbände sowie Selbstständige. Es gelten unsere AGB.