Proteção de sistemas de IA1 / 5
Qual controle de segurança atua como filtro entre as entradas do usuário e um LLM para detectar e bloquear prompts maliciosos?
CorretoIncorreto
Alex
Um firewall de prompts é um controle de segurança específico para IA, projetado para filtrar e inspecionar as entradas do usuário antes que elas cheguem ao modelo de linguagem. Ele funciona de forma parecida com um Web Application Firewall, mas foi feito sob medida para interações com LLM. Firewalls de prompts analisam os prompts recebidos em busca de padrões associados a prompt injection, tentativas de jailbreak e violações de política. Eles conseguem bloquear ou sanitizar entradas maliciosas e registrar atividades suspeitas. Alguns firewalls de prompts também inspecionam as saídas do modelo em busca de vazamento de dados sensíveis ou conteúdo nocivo. Esse é um controle de gateway central no exame SecAI+ e se encaixa na categoria de controles de segurança do modelo, ao lado de rate limits, limites de tokens e controles de acesso a endpoints. Dica de prova: firewalls de prompts são controles de segurança de IA do lado da entrada — eles ficam no gateway entre os usuários e o modelo.
Você pode obter respostas às suas dúvidas no app. Crie uma conta grátis, sem cartão de crédito.
Questão 1 de 5
Criar uma conta grátis