¿Cómo corregir a la IA cuando se equivoca en una conversación?

Cuando la inteligencia artificial comete un error en una conversación real con un cliente —por ejemplo, entrega un dato incorrecto, responde algo fuera de contexto, interpreta mal una intención, o genera una alucinación definida por Vambe— puede corregirla directamente desde esa misma conversación utilizando PandAI. Este proceso es rápido, guiado y permite mejorar el comportamiento del asistente sin tener que buscar el bloque manualmente. Aunque Vambe ha implementado mejoras significativas en el motor PandAI para reducir las 'alucinaciones' y aumentar la precisión, es fundamental contar con un sistema robusto para refinar y corregir cualquier desvío, y este proceso sigue siendo clave para lograr asistentes impecables.

1

Ubicar el mensaje que contiene el error

Dentro del ticket, identifica el mensaje enviado por la IA que deseas corregir.

A la izquierda de ese mensaje verás un ícono de estrellitas. Haz clic en esas estrellitas.

Ícono de estrellitas

2

Indicarle a PandAI qué estuvo mal

Al hacer clic, se abrirá una ventana donde podrás escribirle a PandAI detallando lo que ocurrió.

PandAI ahora tiene una comprensión mejorada de las alucinaciones, entendiendo que son respuestas fuera de los parámetros definidos por los guard rails del asistente. Su capacidad para identificar y procesar estas desviaciones ha sido reforzada. Puede indicarle, por ejemplo:

• “La IA entregó información incorrecta o inventada.”

• “El asistente recomendó un producto que no ofrecemos (una alucinación).”

• “Respondió algo que no correspondía a la pregunta, ignorando un guard rail clave.”

• “Quiero saber de dónde sacó esta información.”

• “La IA omitió un paso importante del flujo.”

Mientras más claro sea, mejor será la sugerencia que PandAI podrá darte.

Ejemplo: describe qué parte fue incorrecta, por qué lo es y, si es posible, qué respuesta esperabas. Esto ayuda a que PandAI identifique el bloque (incluyendo los guard rails en "No Hacer") y proponga correcciones más precisas para evitar futuras alucinaciones.

Ventana para escribir a PandAI

3

PandAI analiza y propone correcciones

Una vez envías tu comentario, se abrirá un chat con PandAI.

Ahí verás:

• La explicación del error.

• De dónde tomó la información el asistente (si lo preguntas).

• Qué bloque podría estar generando el problema (ahora con mayor énfasis en la configuración de guard rails y "No Hacer"). Gracias a las recientes mejoras, el análisis de PandAI es más preciso, facilitando la identificación de la raíz de la alucinación.

• Recomendaciones específicas para corregirlo.

• Opciones sugeridas para reescribir el prompt afectado.

PandAI revisa el comportamiento del asistente y te guía para dejar la instrucción correcta.

Chat con PandAI mostrando análisis y sugerencias

4

Aplicar las mejoras sugeridas

PandAI puede:

• Redactar una versión mejorada del bloque.

• Señalar instrucciones contradictorias.

• Detectar carencias en los Pasos a Seguir o Casos Posibles.

• Indicar si falta metadata, información o un bloque clave, o si un guard rail necesita ser ajustado.

Luego solo debes copiar la corrección y pegarla en el bloque correspondiente del asistente.

¿Para qué sirve este proceso?

• Detectar errores que no se ven a simple vista, incluyendo las alucinaciones según la definición de Vambe.

• Mejorar el asistente mientras los clientes interactúan, fortaleciendo sus guard rails.

• Evitar respuestas incorrectas y alucinaciones en el futuro.

• Mantener la coherencia del flujo sin perder tiempo revisando todo.

PandAI actúa como un supervisor del asistente, ayudándote a perfeccionarlo conversación por conversación y a asegurar el cumplimiento de sus guard rails para minimizar las alucinaciones. La mejora en el motor de PandAI hace que este proceso sea aún más eficiente y efectivo, permitiendo un reforzamiento continuo y preciso de tus asistentes.