Qu'est-ce que l'hallucination ?

L'hallucination est le mode de défaillance dans lequel un LLM produit une sortie fluide qui est factuellement fausse, inventée ou non étayée par le contexte fourni. Ce n'est pas un bug à corriger, mais une propriété de la façon dont les modèles de langage échantillonnent à partir d'une distribution de probabilité, ce qui signifie que les systèmes commerce doivent composer avec elle au lieu d'attendre qu'elle disparaisse.

Définition

Techniquement, l'hallucination survient parce que les LLM prédisent le token suivant par vraisemblance, et non par vérité, si bien qu'ils poursuivent volontiers une phrase à l'allure assurée avec des chiffres, des noms de produits ou des citations inventés lorsque les données d'entraînement sont rares ou que le prompt est sous-spécifié. La gravité va de la paraphrase inoffensive à des SKU inventés, des prix erronés et des clauses de politique fabriquées. Les parades incluent la Retrieval-Augmented Generation pour ancrer les réponses dans des documents sources, le Tool Use structuré pour que le modèle récupère les données plutôt que de les retrouver de mémoire, une température de décodage plus basse, le vote par cohérence, et des Guardrails qui bloquent les sorties peu fiables. Les pipelines d'Eval suivent les taux d'hallucination par tâche en comparant les affirmations à un corpus de référence.

Pourquoi c'est important

Une seule spécification hallucinée sur une page produit à fort trafic peut entraîner des rejets de paiement, des réclamations et une exposition juridique, surtout dans les catégories réglementées comme l'électronique, les cosmétiques ou la finance. Pire, la défaillance a l'air assurée, si bien que les relecteurs humains la manquent plus souvent que des bugs grossiers. Traiter l'hallucination comme une métrique opérationnelle mesurée, aux côtés de la latence et du coût, permet aux équipes commerce de fixer des seuils acceptables par cas d'usage : tolérant pour le brainstorming, quasi nul pour les attributs produits. Dans une stack de Composable Commerce, cela s'applique en routant les requêtes factuelles via des services ancrés comme le catalogue, le Knowledge Graph et le Recommendation Engine, et en réservant la génération ouverte aux surfaces à faible risque.

Cas d'usage

Un agent de description produit utilise la Retrieval-Augmented Generation face au PIM, de sorte que chaque affirmation cite un champ source et que toute phrase non sourcée est supprimée. Un agent de support répond uniquement à partir d'articles d'aide approuvés et se rabat sur un modèle de transfert lorsque le contexte manque. Un copilote de tarification a l'interdiction de citer des chiffres en prose et doit invoquer un outil get_price, dont la sortie est rendue telle quelle dans la réponse.

À lire aussi

Découvrez Agentic Frontend Management Platform · Composable Digital Experience Platform.