Freiberuflicher Webentwickler · Hamburg
Halluzination (KI)
Als Halluzination bezeichnet man Ausgaben eines Sprachmodells, die sprachlich stimmig wirken, aber faktisch falsch, veraltet oder erfunden sind – etwa nicht existierende Methoden, erfundene Urteile oder falsche Versionsnummern.
Ursache ist die Vorhersagelogik des Modells, nicht Absicht. Gegenmaßnahmen: Quellenbindung (z. B. RAG), enge Prompts, Tests und menschliches Review vor Live-Gang. Ungeprüfte KI-Texte oder -Patches gehören nicht in Produktion. Praxis: KI in der Softwareentwicklung.