Qu'est-ce que l'ajustement fin ?

L'ajustement fin est le processus consistant à poursuivre l'entraînement d'un grand modèle de langage préentraîné sur un jeu de données sélectionné afin qu'il adopte un domaine, un style ou un format de sortie de manière plus fiable qu'un modèle de base ne le ferait avec le seul prompt. Dans le commerce, c'est l'un des trois leviers à la disposition des équipes, aux côtés de l'ingénierie de prompts et de la Retrieval-Augmented Generation, et celui qui présente le coût et le poids opérationnel les plus élevés.

Définition

L'ajustement fin met à jour un sous-ensemble des poids du modèle à partir de paires entrée-sortie fournies par l'équipe. Les méthodes économes en paramètres comme LoRA entraînent de petites matrices d'adaptation plutôt que le modèle complet, ce qui réduit drastiquement le coût de calcul et de stockage et permet à plusieurs adaptateurs de coexister sur la même base. L'ajustement par instructions se concentre sur le suivi de tâches structurées, tandis que l'ajustement par préférences, comme le DPO ou le RLHF, aligne le comportement du modèle sur des sorties choisies par opposition à des sorties rejetées par des évaluateurs humains. Les jeux de données vont généralement de quelques centaines à des dizaines de milliers d'exemples de haute qualité, et le modèle est évalué sur un ensemble réservé couvrant les cas limites, l'Hallucination et le respect du schéma cible avant déploiement.

Pourquoi c'est important

L'ajustement fin est le bon outil lorsque les approches reposant uniquement sur le prompt dépassent la fenêtre de contexte, lorsqu'une tâche est si répétitive que payer de longues instructions à chaque appel devient coûteux, ou lorsqu'une forme de sortie précise n'est pas négociable. Il peut réduire d'un ordre de grandeur le nombre de tokens par requête et améliorer la latence, ce qui compte pour les surfaces à fort volume comme les appels à la Storefront API et le chat. C'est le mauvais outil lorsque la connaissance sous-jacente change fréquemment, cas où la Retrieval-Augmented Generation est moins chère et plus fraîche. Les modèles ajustés ont aussi besoin d'un contrôle de version et d'une réévaluation lorsque le modèle de base est mis à jour, ce qui alourdit la charge opérationnelle dans un environnement de Composable Commerce.

Cas d'usage

Un marchand ajuste un petit modèle sur des échantillons de voix de marque pour la génération de descriptions produits à fort volume, puis le sert derrière un outil CMS. Un modèle de classification est ajusté sur des tickets de support étiquetés pour router les conversations avant qu'un agent plus grand ne les prenne en charge. Un modèle d'extraction de schéma est ajusté pour transformer des flux fournisseurs non structurés en JSON validé pour le PIM.

À lire aussi

Découvrez Agentic Frontend Management Platform · Composable Digital Experience Platform.