Reduce las alucinaciones de un asistente de IA en tu web
Una respuesta sin respaldo puede colarse en varios puntos. Puede faltar la fuente, la recuperación puede seleccionar la página equivocada, dos páginas pueden contradecirse o la respuesta puede añadir una afirmación que los pasajes no respaldan.
Trata la "alucinación" como un diagnóstico que hay que investigar, no como un ajuste que se desactiva.
Clasifica el fallo
| Fallo | Evidencia | Solución adecuada |
|---|---|---|
| Fuente ausente | La búsqueda en el dataset no encuentra texto que lo respalde | Añade o mejora la página de referencia |
| Fuente desactualizada | El dataset contiene una versión anterior | Actualiza o sustituye la fuente |
| Fuentes contradictorias | Dos páginas indexadas indican datos distintos | Resuelve el conflicto o excluye la fuente obsoleta |
| Fallo de recuperación | La fuente correcta existe pero no se selecciona | Mejora el alcance, la redacción del contenido, las etiquetas o los ajustes de recuperación |
| Síntesis sin respaldo | Aparecen tarjetas de fuentes, pero no respaldan la afirmación | Ajusta las reglas de respuesta y el comportamiento alternativo |
| Pregunta fuera del alcance | Ninguna fuente aprobada debería responderla | Declina y ofrece el siguiente paso adecuado |
No empieces reescribiendo el prompt cuando falta la fuente.
Mantén el dataset enfocado
Elimina el material duplicado, privado, irrelevante y obsoleto. Usa rutas incluidas y excluidas para que una captura de una web pública no recoja páginas de cuenta, campañas antiguas ni copias de archivo.
En datasets pequeños y seleccionados, Seekdown puede usar todo el contenido del dataset como contexto. En datasets más grandes, el modo de búsqueda predeterminado recupera el contenido coincidente. El máximo predeterminado documentado es de 10 resultados; cambiarlo puede ampliar o acotar el contexto, pero conviene probarlo con un conjunto de preguntas.
Haz visibles las fuentes durante la revisión
Mantén activada la opción Show highlighted results durante las pruebas para que cada respuesta muestre sus tarjetas de referencia.
En cada afirmación relevante, abre la fuente citada y localiza el texto que la respalda. Una cita solo sirve como evidencia de diagnóstico cuando realmente respalda la respuesta.
Define una alternativa prudente
Indica qué debe hacer el asistente cuando las fuentes seleccionadas no responden a una pregunta. Un comportamiento adecuado puede ser decir que la información no está disponible, pedir más contexto, enlazar a una página relevante o dirigir al visitante a una persona.
Evita instrucciones que premien responder a todas las preguntas. Dar siempre una respuesta no es útil cuando la fuente no dice nada.
Mantén un conjunto de regresión
Incluye datos conocidos, preguntas que abarcan varias páginas, formulaciones ambiguas, conflictos entre fuentes y peticiones sin respaldo. Anota la fuente esperada y las afirmaciones prohibidas.
Vuelve a lanzar ese conjunto tras cada cambio en el contenido fuente, el alcance de la captura, las conexiones de datasets, los ajustes de recuperación o las instrucciones de respuesta. El objetivo no es prometer cero alucinaciones, sino tener un proceso controlado que detecte y reduzca las respuestas sin respaldo.