Was ist Hallucination?

Hallucination ist der Failure Mode, bei dem ein LLM flüssigen Output produziert, der faktisch falsch, frei erfunden oder vom gelieferten Kontext nicht gestützt ist. Es ist kein Bug zum Patchen, sondern eine Eigenschaft des Sampling-Verfahrens, weshalb Commerce-Systeme darum herum designen müssen statt zu hoffen, dass es verschwindet.

Definition

Technisch entsteht Hallucination, weil LLMs den nächsten Token nach Wahrscheinlichkeit und nicht nach Wahrheit vorhersagen; sie setzen einen selbstbewusst klingenden Satz daher gerne mit erfundenen Zahlen, Produktnamen oder Quellen fort, wenn Trainingsdaten dünn sind oder der Prompt unterspezifiziert ist. Die Schwere reicht von harmloser Paraphrase bis zu erfundenen SKUs, falschen Preisen und fabrizierten Policy-Klauseln. Mitigations sind Retrieval-Augmented Generation zur Grounding-Erdung, strukturiertes Tool Use, damit das Modell Daten holt statt erinnert, niedrigere Decoding-Temperatur, Self-Consistency Voting und Guardrails, die Low-Confidence-Outputs blocken. Eval-Pipelines tracken Hallucination Rates pro Task, indem Claims gegen ein Ground-Truth-Corpus geprüft werden.

Warum es zählt

Eine einzige halluzinierte Spezifikation auf einer hochfrequentierten Produktseite kann Chargebacks, Beschwerden und Legal Exposure verursachen, besonders in regulierten Kategorien wie Elektronik, Kosmetik oder Finance. Schlimmer noch: Der Fehler wirkt selbstbewusst, und menschliche Reviewer übersehen ihn häufiger als plumpe Bugs. Hallucination als gemessene Operational Metric neben Latenz und Kosten zu behandeln erlaubt es Commerce-Teams, akzeptable Schwellen pro Use Case zu setzen, etwa tolerant beim Brainstorming, nahe Null bei Produktattributen. In einem Composable-Commerce-Stack wird das durchgesetzt, indem faktische Queries durch grounded Services wie Catalog, Knowledge Graph und Recommendation Engine laufen und offene Generation auf risikoarme Flächen begrenzt bleibt.

Anwendungsfälle

Ein Produkttext-Agent nutzt Retrieval-Augmented Generation gegen das PIM, sodass jede Aussage ein Source-Feld zitiert und nicht-zitierte Sätze gestrichen werden. Ein Support-Agent antwortet ausschließlich aus freigegebenen Help-Center-Artikeln und fällt bei fehlendem Kontext auf ein Handoff-Template zurück. Ein Pricing-Copilot darf keine Zahlen im Fließtext zitieren und muss ein get_price-Tool aufrufen, dessen Output verbatim in die Antwort gerendert wird.

Verwandt

Mehr dazu: Agentic Frontend Management Platform · Composable Digital Experience Platform.