Que sont les Guardrails ?

Les Guardrails sont les contraintes, validateurs et politiques explicites qui délimitent ce qu'un agent piloté par LLM peut dire, récupérer ou modifier. Ils constituent le harnais de sécurité qui rend les workflows agentiques livrables, car un modèle non déterministe livré à lui-même ne convient pas à des actions comme l'émission de remises ou la publication de contenu.

Définition

Les Guardrails opèrent à trois niveaux. Les guardrails d'entrée filtrent les prompts entrants pour détecter l'injection de prompt, les requêtes hors sujet et les données personnelles avant qu'ils n'atteignent le modèle. Les guardrails de sortie valident la réponse du modèle face à des schémas, des contrôles de factualité et des filtres de contenu, souvent à l'aide d'un modèle classifieur plus petit placé en ligne. Les guardrails d'action enveloppent les appels de Tool Use de règles de politique, comme des montants de remboursement maximaux, des restrictions de langue ou des limites de débit, et ils exigent une approbation humaine pour les opérations irréversibles. Chaque guardrail émet des événements structurés qui alimentent en retour les pipelines d'Eval, de sorte que les lacunes de couverture deviennent visibles avec le temps plutôt qu'après un incident.

Pourquoi c'est important

Sans Guardrails, le comportement du pire cas d'un agent est sans borne : il peut divulguer des données, halluciner des prix, suivre une instruction malveillante dissimulée dans le contenu utilisateur ou épuiser des budgets de tokens dans une boucle. Les Guardrails rendent le pire cas fini et observable, ce dont les équipes risque et juridique ont besoin avant de valider les déploiements en production. Ils réduisent aussi le temps moyen de rétablissement, car chaque événement bloqué est un signal étiqueté qui pointe vers un prompt, un outil ou une version de modèle précis. Dans une stack de Composable Commerce, les Guardrails se placent comme un service entre la Storefront API et la couche agent, de sorte qu'ils peuvent être réutilisés sur le chat orienté consommateur, les copilotes internes et les traitements par lots.

Cas d'usage

L'outil write_price d'un agent de tarification refuse les valeurs hors d'une bande en pourcentage du prix actuel et exige une approbation humaine au-delà d'un seuil plus élevé. L'outil de publication d'un agent de contenu exécute un classifieur de sortie pour les allégations interdites et la dérive de la voix de marque avant l'appel au CMS. Le guardrail d'entrée d'un chatbot de support retire les instructions intégrées au texte fourni par l'utilisateur afin de prévenir l'injection de prompt qui réécrirait sinon le rôle de l'agent.

À lire aussi

Découvrez Agentic Frontend Management Platform · Composable Digital Experience Platform.