KI-Halluzinationen
Was es bedeutet, wenn die KI lügt, und wie Unternehmen dieses Risiko ausschließen.
Als Halluzination bezeichnet man das Phänomen, bei dem eine Künstliche Intelligenz (wie ChatGPT) faktenfrei Dinge erfindet und diese äußerst überzeugend als Wahrheit präsentiert.
Warum halluziniert KI?
Ein LLM ist im Kern ein System, das Wahrscheinlichkeiten berechnet. Wenn ihm das Wissen fehlt, sucht es nicht im Internet nach der “Wahrheit”, sondern berechnet das wahrscheinlichste nächste Wort. Das führt zu plausibel klingenden Lügen.
Wie Unternehmen das Problem lösen
Für B2B-Prozesse sind Halluzinationen inakzeptabel. Die Lösung ist die RAG-Architektur (Retrieval-Augmented Generation):
- Das Modell darf nicht frei antworten.
- Es bekommt ein festes Unternehmensdokument (z.B. eine Rechnung) als Grundlage.
- Der Prompt lautet: “Beantworte die Frage ausschließlich basierend auf diesem Dokument. Wenn die Info nicht da ist, antworte mit ‘Weiß ich nicht’.”
Häufige Fragen (FAQ)
Werden Halluzinationen in Zukunft verschwinden?
Vollständig wahrscheinlich nie, da es in der Natur der LLM-Architektur liegt. Aber durch Techniken wie RAG und Grounding können sie für den geschäftlichen Einsatz auf nahe Null reduziert werden.