Identificar conceitos e capacidades de IA1 / 5
Uma empresa quer que as respostas do modelo reflitam documentos privados e informações recentes que não estavam nos dados de treinamento do modelo, sem retreiná-lo. Qual abordagem resolve isso diretamente e ajuda a reduzir as alucinações?
CorretoIncorreto
Alex
Um modelo de linguagem só sabe o que estava nos seus dados de treinamento no momento em que foi treinado, então ele não tem como conhecer os seus documentos privados nem nada que tenha mudado desde então. A geração aumentada por recuperação, normalmente abreviada como RAG, resolve isso sem mexer nos pesos do modelo: na hora da pergunta, a aplicação busca em um índice sobre o seu próprio conteúdo de origem, traz de volta os trechos que parecem relevantes e os insere no prompt junto com a pergunta do usuário. O modelo então responde a partir de material que ele realmente consegue ver, e é por isso que a mesma técnica que resolve o problema dos dados desatualizados e privados também reduz as respostas inventadas.
As outras opções giram um botão sem acrescentar conhecimento. Aumentar a temperatura deixa a amostragem mais aleatória, o que produz mais invenção, não menos. Encolher a janela de contexto encurtaria as respostas e, pior, deixaria menos espaço para os trechos recuperados. Desativar o tokenizador não é uma operação suportada e não diz nada sobre quais fatos o modelo consegue alcançar.
Dica de prova: quando um cenário junta documentos próprios ou informações recentes com a expressão sem retreinar, a resposta pretendida é a recuperação, não o fine-tuning nem um parâmetro de decodificação.
Fontelearn.microsoft.com
Você pode obter respostas às suas dúvidas no app. Crie uma conta grátis, sem cartão de crédito.
Questão 1 de 5
Criar uma conta grátis