KI-Halluzination
Ein KI-Modell erzeugt Information, die nicht auf Fakten beruht, zum Beispiel eine Quelle, die es nicht gibt, oder eine falsche Zahl, in einem selbstbewussten Ton.
- 01
Warum es wichtig ist
Sprachmodelle erzeugen den am wahrscheinlichsten wirkenden Text, keine geprüften Informationen, daher können sie flüssige, aber falsche Antworten geben. In rechtlichen, medizinischen, finanziellen oder technischen Inhalten können diese Fehler echten Schaden anrichten. Jede wichtige Aussage sollte vor ihrer Veröffentlichung oder Verwendung anhand einer zuverlässigen Quelle geprüft werden.
- 02
Beispiel
Ein mit KI erstellter Blogbeitrag zitiert einen Artikel einer Verordnung, den es nicht gibt. Bei der Prüfung der Quelle findet der Redakteur den Artikel nicht, und der Beitrag wird vor der Veröffentlichung korrigiert.
- 03
Häufiger Fehler
Die Quellen, Zahlen und Zitate, die eine KI liefert, ungeprüft veröffentlichen. Eine erfundene Quelle beschädigt die Glaubwürdigkeit des gesamten Beitrags.
- 04
Verwandte Begriffe
- LLM · Großes Sprachmodell
- RAG · Abrufgestützte Generierung
- E-E-A-T · Erfahrung, Expertise, Autorität und Vertrauenswürdigkeit
Passende Leistungen und Ratgeber
Über Ihr Projekt sprechen.
Erzählen Sie uns Ihren Bedarf; den Umfang klären wir gemeinsam.