Montagem e implantação de aplicações1 / 5
Uma equipe quer fazer um teste A/B com duas estratégias de prompt diferentes para o agente de suporte ao cliente. Como ela deve montar isso usando o Databricks serving?
CorretoIncorreto
Alex
O teste A/B de agentes de GenAI no Databricks usa a traffic_config de um serving endpoint para dividir as requisições entre served entities. Cada versão do agente é implantada como uma served_entity separada no mesmo endpoint, e traffic_percentage controla a divisão (a soma precisa dar 100). As respostas de cada versão são registradas separadamente na inference table, o que permite comparar qualidade, latência e feedback dos usuários. Análise dos distratores: a opção “Usar o Feature Serving para marcar cada requisição e roteá-la…” está errada — o Feature Serving serve para consultar features, não para rotear prompts. A opção “Implantar um único endpoint com um hook de pré-processamento…” está errada — hooks de pré-processamento não oferecem gestão de tráfego adequada nem log independente. A opção “Registrar cada versão do prompt no MLflow Model Registry…” está errada — notebooks de roteamento próprios ignoram a gestão de tráfego e o log de inferência nativos do Databricks. Ref: docs.databricks.com/en/machine-learning/model-serving/serve-multiple-models-to-serving-endpoint.html
Fontedocs.databricks.com
Você pode obter respostas às suas dúvidas no app. Crie uma conta grátis, sem cartão de crédito.
Questão 1 de 5
Criar uma conta grátis