Cos'è il Fine-Tuning?

Il Fine-Tuning è il processo di prosecuzione dell'addestramento di un Large Language Model pre-addestrato su un dataset curato, in modo che adotti un dominio, uno stile o un formato di output in modo più affidabile rispetto a un modello base con il solo prompting. Nel commerce è una delle tre leve a disposizione dei team, insieme a Prompt Engineering e Retrieval-Augmented Generation, ed è quella con il costo e il peso operativo più elevati.

Definizione

Il Fine-Tuning aggiorna un sottoinsieme dei pesi del modello sulla base di coppie input-output fornite dal team. I metodi parameter-efficient come LoRA addestrano piccole matrici adapter invece dell'intero modello, il che riduce drasticamente i costi di calcolo e archiviazione e permette a più adapter di coesistere sulla stessa base. L'instruction tuning si concentra sul seguire task strutturati, mentre il preference tuning, come DPO o RLHF, allinea il comportamento del modello agli output scelti rispetto a quelli rifiutati dai valutatori umani. I dataset vanno tipicamente da poche centinaia a decine di migliaia di esempi di alta qualità, e prima del deployment il modello viene valutato su un set separato che copre casi limite, Hallucination e aderenza allo schema target.

Perché è importante

Il Fine-Tuning è lo strumento giusto quando gli approcci basati solo sul prompt superano la context window, quando un task è così ripetitivo che pagare istruzioni lunghe a ogni chiamata diventa costoso, oppure quando un formato di output specifico non è negoziabile. Può ridurre i token per richiesta di un ordine di grandezza e migliorare la latenza, un aspetto rilevante per superfici ad alto volume come le chiamate alla Storefront API e la chat. Non è lo strumento giusto quando la conoscenza sottostante cambia spesso, dove la Retrieval-Augmented Generation è più economica e aggiornata. I modelli sottoposti a fine-tuning richiedono anche versioning e una nuova valutazione quando il modello base viene aggiornato, il che aggiunge overhead operativo in un ambiente di Composable Commerce.

Casi d'uso

Un merchant applica il fine-tuning a un modello piccolo su campioni di brand-voice per la generazione ad alto volume di descrizioni prodotto, e lo espone dietro uno strumento CMS. Un modello di classificazione viene sottoposto a tuning su ticket di supporto etichettati per instradare le conversazioni prima che un agente più grande le prenda in carico. Un modello di estrazione schema viene sottoposto a tuning per trasformare i feed non strutturati dei fornitori in JSON validato per il PIM.

Correlati

Scopri Agentic Frontend Management Platform · Composable Digital Experience Platform.