Como corrigir a IA quando ela erra em uma conversa?

Quando a inteligência artificial comete um erro em uma conversa real com um cliente — por exemplo, entrega um dado incorreto, responde algo fora de contexto, interpreta mal uma intenção ou gera uma alucinação definida pela Vambe — pode corrigi-la diretamente a partir dessa mesma conversa usando o PandAI. Esse processo é rápido, guiado e permite melhorar o comportamento do assistente sem precisar buscar o bloco manualmente. Embora a Vambe tenha implementado melhorias significativas no motor PandAI para reduzir as 'alucinações' e aumentar a precisão, é fundamental contar com um sistema robusto para refinar e corrigir qualquer desvio, e esse processo continua sendo essencial para alcançar assistentes impecáveis.

1

Localizar a mensagem que contém o erro

Dentro do ticket, identifique a mensagem enviada pela IA que você deseja corrigir.

À esquerda dessa mensagem você verá um ícone de estrelinhas. Clique nessas estrelinhas.

Ícone de estrelinhas

2

Indicar ao PandAI o que deu errado

Ao clicar, abrirá uma janela onde você poderá escrever para o PandAI detalhando o que aconteceu.

O PandAI agora tem uma compreensão aprimorada das alucinações, entendendo que são respostas fora dos parâmetros definidos pelos guard rails do assistente. Sua capacidade de identificar e processar esses desvios foi reforçada. Você pode indicar, por exemplo:

• “A IA entregou informação incorreta ou inventada.”

• “O assistente recomendou um produto que não oferecemos (uma alucinação).”

• “Respondeu algo que não correspondia à pergunta, ignorando um guard rail importante.”

• “Quero saber de onde tirou essa informação.”

• “A IA omitiu uma etapa importante do fluxo.”

Quanto mais claro você for, melhor será a sugestão que o PandAI poderá te dar.

Exemplo: descreva qual parte estava incorreta, por que está incorreta e, se possível, qual resposta você esperava. Isso ajuda o PandAI a identificar o bloco (incluindo os guard rails em "Não Fazer") e propor correções mais precisas para evitar futuras alucinações.

Janela para escrever para o PandAI

3

PandAI analisa e propõe correções

Assim que você envia seu comentário, abrirá um chat com o PandAI.

Lá você verá:

• A explicação do erro.

• De onde o assistente tirou a informação (se você perguntar).

• Qual bloco pode estar gerando o problema (agora com maior ênfase na configuração de guard rails e "Não Fazer"). Graças às melhorias recentes, a análise do PandAI está mais precisa, facilitando a identificação da raiz da alucinação.

• Recomendações específicas para corrigi-lo.

• Opções sugeridas para reescrever o prompt afetado.

O PandAI revisa o comportamento do assistente e te orienta para deixar a instrução correta.

Chat com o PandAI mostrando análise e sugestões

4

Aplicar as melhorias sugeridas

O PandAI pode:

• Redigir uma versão aprimorada do bloco.

• Apontar instruções contraditórias.

• Detectar lacunas nos Passos a Seguir ou Casos Possíveis.

• Indicar se faltam metadata, informações ou um bloco chave, ou se um guard rail precisa ser ajustado.

Depois, basta copiar a correção e colá-la no bloco correspondente do assistente.

Para que serve esse processo?

• Detectar erros que não são visíveis à primeira vista, incluindo as alucinações segundo a definição da Vambe.

• Melhorar o assistente enquanto os clientes interagem, fortalecendo suas guard rails.

• Evitar respostas incorretas e alucinações no futuro.

• Manter a coerência do fluxo sem perder tempo revisando tudo.

O PandAI atua como um supervisor do assistente, ajudando você a aperfeiçoá-lo conversa por conversa e a garantir o cumprimento de suas guard rails para minimizar as alucinações. A melhoria no motor do PandAI faz com que esse processo seja ainda mais eficiente e eficaz, permitindo um reforço contínuo e preciso dos seus assistentes.