Bevor Sie RAGFlow nutzen können müssen Sie für die einzelnen Funktionen Modelle hinterlegen. Diese müssen zunächst die benötigten KI-Modelle im AI Hub konfiguriert werden.
Der AI Hub verwaltet alle verfügbaren Modelle für Funktionen wie Chat, Embeddings, Vision oder Speech.
In dieser Anleitung wird die Einrichtung am Beispiel des RAGcon Providers gezeigt.
AI Hub öffnen
Navigieren Sie zunächst im Menü zu Modellanbieter / AI Hub.
Hier finden Sie eine Übersicht aller verfügbaren Modellanbieter.
In der rechten Spalte können neue Anbieter hinzugefügt oder konfiguriert werden.
RAGcon Provider auswählen
Wählen Sie in der Liste der verfügbaren Anbieter den RAGcon Provider aus.
Daraufhin öffnet sich ein neues Konfigurationsfenster, in dem die Verbindung zum AI Hub eingerichtet wird.
Verbindungsdaten eintragen
Im Konfigurationsfenster müssen die folgenden Werte eingetragen werden:
Base URL
https://connect.ragcon.com/v1
Hinweis:
Der Platzhalter in älteren Versionen kann noch abweichen. Für aktuelle Installationen wird die oben genannte URL verwendet.
API-Key
Der API-Key wird bei der Bestellung generiert.
AI-Hub-Keys bzw. das AI-Hub-Team haben Zugriff auf alle Modelle innerhalb der Umgebung.
Modelle konfigurieren
Anschließend können die benötigten Modelle ausgewählt und als Standard definiert werden.
Typische Konfiguration:
LLM
gpt-oss-120
Embedding Modell
rc-qwen3-0.6b
Vision Modell (VLM)
Mistral-Small-3.2-24B-Instruct-2506
Speech-to-Text (ASR)
whisper-large-v3
Reranking Modell
BAAI/bge-reranker-v2-m3
Text-to-Speech (TTS)
cosyvoice-300
Diese Modelle decken die wichtigsten Funktionen von RAGFlow ab, darunter:
- Chat-Antworten
- semantische Suche
- Bildanalyse
- Spracheingabe
- Ergebnis-Ranking
- Sprachsynthese
Modelle als Standard setzen
Nachdem die Modelle ausgewählt wurden, können sie als Default Models festgelegt werden.
Diese Standardmodelle werden anschließend automatisch verwendet für:
- Chat-Assistenten
- Agenten
- Retrieval-Prozesse
- Speech- und Vision-Funktionen
Die Konfiguration kann später jederzeit angepasst werden.
Verbindung prüfen
Nach dem Eintragen aller Werte kann die Verbindung über Verify getestet werden.
Wenn die Verbindung erfolgreich ist, können die Modelle sofort in RAGFlow genutzt werden.
Zusammenfassung
Der AI Hub verwaltet alle KI-Modelle innerhalb von RAGFlow.
Durch die Konfiguration des RAGcon Providers können verschiedene Modelle zentral eingebunden werden.
Diese Modelle bilden die Grundlage für Funktionen wie:
- Chat-Assistenten
- Agenten
- semantische Suche
- Sprach- und Vision-Verarbeitung
Nach der Einrichtung stehen die Modelle im gesamten System zur Verfügung.
Mehr zum AI HUB finden Sie hier.
