Assemblage et déploiement des applications1 / 5
Une équipe veut comparer par test A/B deux stratégies de prompt différentes pour son agent de support client. Comment doit-elle mettre cela en place avec Databricks serving ?
Bonne réponseRéponse incorrecte
Alex
Les tests A/B d'agents GenAI sur Databricks reposent sur la traffic_config d'un serving endpoint, qui répartit les requêtes entre les served entities. Chaque version de l'agent est déployée comme une served_entity distincte sur le même endpoint, et traffic_percentage contrôle la répartition (le total doit faire 100). Les réponses de chaque version sont journalisées séparément dans l'inference table, ce qui permet de comparer qualité, latence et retours des utilisateurs. Analyse des distracteurs : l'option « Utiliser Feature Serving pour étiqueter chaque requête et la router… » est fausse — Feature Serving sert à récupérer des features, pas à router des prompts. L'option « Déployer un endpoint unique avec un hook de prétraitement… » est fausse — les hooks de prétraitement n'offrent ni véritable gestion du trafic ni journalisation indépendante. L'option « Enregistrer chaque version de prompt dans MLflow Model Registry… » est fausse — un notebook de routage maison contourne la gestion du trafic et la journalisation des inférences intégrées à Databricks. Ref: docs.databricks.com/en/machine-learning/model-serving/serve-multiple-models-to-serving-endpoint.html
Sourcedocs.databricks.com
Les réponses aux questions complémentaires sont disponibles dans l’app. Crée un compte gratuit, sans carte bancaire.
Question 1 sur 5
Créer un compte gratuit