Cos'è un'Allucinazione?

L'allucinazione è la modalità di errore in cui un LLM produce un output fluente ma factualmente sbagliato, inventato o non supportato dal contesto fornito. Non è un bug da correggere, ma una proprietà del modo in cui i modelli linguistici campionano da una distribuzione di probabilità, il che significa che i sistemi di commerce devono progettare tenendone conto, invece di aspettarsi che scompaia.

Definizione

Tecnicamente, l'allucinazione si verifica perché gli LLM predicono il token successivo in base alla probabilità, non alla verità, quindi continueranno volentieri una frase dal tono sicuro con numeri, nomi di prodotto o citazioni inventati quando i dati di addestramento sono scarsi o il prompt è sotto-specificato. La gravità varia da una parafrasi innocua a SKU inventati, prezzi errati e clausole di policy fabbricate. Le mitigazioni includono la Retrieval-Augmented Generation per ancorare le risposte a documenti sorgente, il Tool Use strutturato affinché il modello recuperi i dati invece di ricordarli, una temperatura di decodifica più bassa, il voto per self-consistency e i Guardrail che bloccano output a bassa confidenza. Le pipeline di valutazione monitorano i tassi di allucinazione per task confrontando le affermazioni con un corpus di verità di riferimento.

Perché è importante

Una singola specifica allucinata su una pagina prodotto ad alto traffico può generare chargeback, reclami ed esposizione legale, specialmente in categorie regolamentate come elettronica, cosmetici o finanza. Peggio ancora, l'errore sembra sicuro di sé, quindi i revisori umani lo notano meno spesso rispetto a bug grossolani. Trattare l'allucinazione come una metrica operativa misurata, insieme a latenza e costo, permette ai team di commerce di fissare soglie accettabili per caso d'uso: tolleranti per il brainstorming, quasi nulle per gli attributi di prodotto. In uno stack di Composable Commerce questo viene applicato instradando le query fattuali tramite servizi ancorati come il catalogo, il Knowledge Graph e il Recommendation Engine, e riservando la generazione aperta alle superfici a basso rischio.

Casi d'uso

Un agente per la descrizione dei prodotti usa la Retrieval-Augmented Generation contro il PIM, così ogni affermazione cita un campo sorgente e qualsiasi frase priva di citazione viene scartata. Un agente di supporto risponde solo sulla base di articoli del centro assistenza approvati e ricade su un template di passaggio quando manca il contesto. A un copilota per il pricing è vietato citare numeri in prosa e deve invocare uno strumento get_price, con l'output riportato testualmente nella risposta.

Correlati

Esplora Agentic Frontend Management Platform · Composable Digital Experience Platform.