Der Chat ist die Benutzeroberfläche, über die Nutzer mit deinem Wissen interagieren. Hier wird festgelegt:
- welche Daten verwendet werden
- welches Modell antwortet
- wie strikt Antworten sein sollen
Schritt 1 — Chat-Bereich öffnen
Wechsle oben zu „Chat“
Links:
- Liste vorhandener Assistenten
- Button „Neue Unterhaltung“
Mitte:
- Chatfenster
Rechts:
- Konfigurationspanel
Schritt 2 — Neuen Chat erstellen
Klicke „+ Chat erstellen“
Danach öffnet sich der Konfigurationsbereich.
Schritt 3 — Grundeinstellungen festlegen
Assistentenname
Name, den Nutzer sehen.
Empfehlung:
- „IT-Support Bot“
- „HR Assistent“
- „Produktwissen Bot“
Beschreibung
Optionaler Infotext für Nutzer.
Begrüßungstext
Nachricht, die beim Öffnen angezeigt wird.
Empfohlen:
Hallo! Ich helfe Ihnen bei Fragen zu [Thema].
Leere Antwort
Fallback-Text, wenn keine Informationen gefunden werden.
Empfohlen:
Ich konnte dazu keine Informationen in der Wissensdatenbank finden.
👉 Wichtig: verhindert Halluzinationen.
Zitat anzeigen
Aktivieren = Quellen anzeigen
Empfehlung: immer aktivieren
Grund:
- erhöht Vertrauen
- erlaubt Verifikation
- wichtig für Compliance
Schritt 4 — Datensatz zuweisen
Im Konfigurationsbereich wählst du die Wissensdatenbanken aus, die dieser Chat verwenden darf.
Regel:
👉 Nur relevante Datasets auswählen
Warum:
Zu viele Daten = schlechtere Treffer
Schritt 5 — LLM Einstellungen konfigurieren
Diese Parameter steuern das Verhalten der KI.
Modell
Welches Sprachmodell antwortet.
Empfehlung:
- komplexe Aufgaben → leistungsstarkes Modell
- einfache Q&A → leichtes Modell
Temperatur
Steuert Kreativität
Empfohlen:
- Wissens-Chat → 0.1
- Kreativer Chat → 0.5–0.7
Top-P
Beschränkt Wortauswahl auf wahrscheinlichste Tokens.
Empfohlen:
→ 0.3 für faktenbasierte Antworten
Präsenzstrafe
Verhindert Themenwiederholung.
Empfohlen:
→ 0.2–0.4
Häufigkeitsstrafe
Verhindert Wortwiederholungen.
Empfohlen:
→ 0.7
Schritt 6 — Retrieval Einstellungen
Diese steuern, wie Dokumente gefunden werden.
Ähnlichkeitsschwelle
Minimaler Ähnlichkeitswert.
Empfohlen:
→ 0.2
Zu hoch → keine Ergebnisse
Zu niedrig → irrelevante Ergebnisse
Schlüsselwortähnlichkeitsgewicht
Balance Keyword vs. Semantik
Empfohlen:
→ 0.7
Gut für technische Begriffe.
Top N
Anzahl Dokument-Chunks
Empfohlen:
→ 6–8
Zu hoch → Modell wird verwirrt
Zu niedrig → zu wenig Kontext
Neuordnungsmodell
Sortiert Treffer nach Relevanz.
Empfehlung:
→ aktivieren, wenn verfügbar
Ergebnis:
höhere Antwortgenauigkeit
Schritt 7 — Speichern
Zum Schluss unten „Speichern“ klicken.
Der Chat ist jetzt einsatzbereit.
Häufige Fehler vermeiden
❌ Kein Fallback-Text
→ Modell erfindet Antworten
❌ Threshold zu hoch
→ Chat findet nichts
❌ Zu viele Datasets
→ schlechte Qualität
❌ Top N zu groß
→ Antwort wird ungenau
