> ## Documentation Index
> Fetch the complete documentation index at: https://docs.localmind.ai/llms.txt
> Use this file to discover all available pages before exploring further.
# Halluzinationen vermeiden
> Warum KI-Modelle halluzinieren und wie du mit RAG, System-Prompt-Regeln und Verifikation faktisch korrekte Antworten sicherst.
KI-Modelle generieren manchmal plausibel klingende aber faktisch falsche Informationen – sogenannte Halluzinationen. Das Verständnis dieses Phänomens ist entscheidend für den zuverlässigen Einsatz von KI im Unternehmenskontext.
## Was sind Halluzinationen?
Falsche Angaben zu überprüfbaren Fakten wie Daten, Namen oder Statistiken.
Zitate oder Referenzen, die plausibel klingen, aber nicht existieren.
Schlussfolgerungen, die den eigenen Prämissen widersprechen.
## Warum halluzinieren KI-Modelle?
Das Modell "lügt" nicht bewusst – es generiert die statistisch wahrscheinlichste Textfortsetzung. Drei Faktoren treiben Halluzinationen:
1. **Trainingsdaten haben Grenzen (Knowledge Cutoff):** Jedes Modell hat einen Wissensstichtag. Alles danach ist dem Modell unbekannt – es kann aber trotzdem plausibel klingende Antworten dazu generieren.
2. **Modelle wissen nicht zuverlässig, was sie nicht wissen:** Durch moderne Trainingsmethoden (Reinforcement Learning) haben neuere Modelle ein rudimentäres Verständnis von Unsicherheit entwickelt. In vielen Fällen generieren sie aber trotzdem selbstbewusst eine Antwort, auch wenn sie keine verlässliche Grundlage haben.
3. **Textgenerierung ist kein Faktenwissen:** Das Modell wurde darauf trainiert, plausibel klingende Texte zu erzeugen – nicht darauf, Wahrheit von Fiktion zu unterscheiden.
**Besonders riskant bei:** Zahlen, Zitaten, Datumsangaben, Rechtstexten, technischen Details und wissenschaftlichen Referenzen.
## Gegenmaßnahmen
### RAG einsetzen
Die effektivste Methode gegen Halluzinationen ist [RAG (Retrieval-Augmented Generation)](/arbeiten-mit-ki/Wissensquellen). Dabei wird das Modell mit aktuellen, verifizierten Daten aus deiner eigenen Wissensbasis versorgt, bevor es antwortet. Das Modell stützt sich dann auf deine Dokumente statt auf sein Trainingswissen.
### Unsicherheit im System Prompt adressieren
Der zuverlässigste Weg, Halluzinationen zu reduzieren, ist eine klare Anweisung im System Prompt: Das Modell soll proaktiv mitteilen, wenn es sich bei einer Aussage unsicher ist. Zum Beispiel:
```text theme={null}
Wenn du dir bei einer Aussage nicht sicher bist, weise den Nutzer klar darauf hin. Kennzeichne unsichere Informationen explizit und schlage vor, die Angabe zu verifizieren.
```
Neuere Modelle haben durch Reinforcement Learning ein grundlegendes Verständnis von Unsicherheit entwickelt. Eine entsprechende Instruktion im System Prompt kann dieses Verhalten gezielt aktivieren.
### Temperatur anpassen (nur bei API-Nutzung)
In der Web-App wählt Localmind sinnvolle Voreinstellungen – einen Temperature-Regler gibt es dort nicht. Wenn du Agenten über die [OpenAI-kompatible API](/api-reference/OpenAI-Kompatibel) ansprichst, kannst du den `temperature`-Parameter mitgeben: Bei einigen Modellen kann ein niedrigerer Wert (z.B. 0.3) die Faktentreue verbessern, bei anderen ist die Default-Einstellung die beste Option. Details unter [Output-Qualität](/arbeiten-mit-ki/Output-Qualitaet).
Das Verhalten bei veränderten Temperature-Einstellungen variiert stark zwischen Modellfamilien. Manche Modelle reagieren auf niedrige Werte mit unbrauchbarem Output oder verweigern die Antwort komplett. Teste Änderungen immer modellspezifisch.
### Fakten immer verifizieren
KI-generierte Inhalte sollten IMMER von einem Menschen geprüft werden, bevor sie in Kundenkommunikation, Verträgen, Berichten oder anderen geschäftskritischen Kontexten verwendet werden.
Prüfe insbesondere:
* Zitierte Quellen (existieren sie wirklich?)
* Konkrete Zahlen und Statistiken
* Rechtliche Aussagen und Paragraphenverweise
* Datumsangaben und historische Fakten
## Nächste Schritte
Eigene Dokumente als verifizierte Wissensquelle anbinden.
Temperature und andere Parameter für zuverlässigere Ergebnisse.