¿Qué es el fine-tuning?

El fine-tuning es el proceso de continuar el entrenamiento de un Large Language Model preentrenado sobre un conjunto de datos seleccionado, de modo que adopte un dominio, un estilo o un formato de salida con mayor fiabilidad de la que lograría un modelo base solo con prompting. En comercio es una de las tres palancas disponibles para los equipos, junto con el Prompt Engineering y la Retrieval-Augmented Generation, y la que conlleva mayor coste y carga operativa.

Definición

El fine-tuning actualiza un subconjunto de los pesos del modelo a partir de pares de entrada y salida proporcionados por el equipo. Los métodos eficientes en parámetros, como LoRA, entrenan pequeñas matrices adaptadoras en lugar del modelo completo, lo que reduce drásticamente el coste de cómputo y almacenamiento y permite que varios adaptadores coexistan sobre la misma base. El instruction tuning se centra en seguir tareas estructuradas, mientras que el preference tuning, como DPO o RLHF, alinea el comportamiento del modelo con las salidas elegidas frente a las rechazadas por evaluadores humanos. Los conjuntos de datos suelen ir de unos cientos a decenas de miles de ejemplos de alta calidad, y el modelo se evalúa sobre un conjunto reservado que cubre casos límite, alucinaciones y el cumplimiento del esquema objetivo antes del despliegue.

Por qué importa

El fine-tuning es la herramienta adecuada cuando los enfoques basados solo en prompts superan la ventana de contexto, cuando una tarea es tan repetitiva que pagar por instrucciones largas en cada llamada resulta costoso, o cuando un formato de salida concreto no es negociable. Puede reducir los tokens por solicitud en un orden de magnitud y mejorar la latencia, algo relevante para superficies de alto volumen como las llamadas a la Storefront API y el chat. No es la herramienta adecuada cuando el conocimiento subyacente cambia con frecuencia, caso en el que la Retrieval-Augmented Generation resulta más barata y actualizada. Los modelos ajustados con fine-tuning también requieren control de versiones y una nueva evaluación cuando se actualiza el modelo base, lo que añade carga operativa en un entorno de Composable Commerce.

Casos de uso

Un comerciante aplica fine-tuning a un modelo pequeño con muestras de voz de marca para generar descripciones de producto a gran volumen, y luego lo sirve a través de una herramienta del CMS. Un modelo de clasificación se ajusta con tickets de soporte etiquetados para enrutar conversaciones antes de que un agente mayor las gestione. Un modelo de extracción de esquemas se ajusta para convertir feeds de proveedores no estructurados en JSON validado para el PIM.

Relacionado

Explora Agentic Frontend Management Platform · Composable Digital Experience Platform.