{"id":1132,"date":"2025-09-05T13:53:47","date_gmt":"2025-09-05T12:53:47","guid":{"rendered":"https:\/\/ideasforge.io\/?p=1132"},"modified":"2025-09-05T14:52:20","modified_gmt":"2025-09-05T13:52:20","slug":"alucinaciones-ai","status":"publish","type":"post","link":"https:\/\/ideasforge.io\/en\/alucinaciones-ai\/","title":{"rendered":"Detectar y prevenir alucinaciones no es magia: es arquitectura."},"content":{"rendered":"
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Detectar y prevenir alucinaciones no es magia: es arquitectura.<\/h1>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t
\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

En nuestro camino por reducir las alucinaciones de los agentes de IA que construimos nos hemos dado cuenta que no existe un enfoque universal para reducirlas y si quisi\u00e9ramos listarlas todas, no nos cabr\u00eda en un post… <\/span><\/p>

Pero si tienes un agente de IA conectado a tools en n8n o LangChain est\u00e1s de suerte, hay una manera de verificar sus respuestas.<\/span><\/p>

PD: Y no hagas como la madre de este gato, pide verificaciones.\u00a0<\/span><\/em><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t
\n\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Agente evaluador: la t\u00e9cnica implementada para detener alucinaciones en n8n<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Si a tu agente orquestador conectado a diferentes tools le preguntas \u00ab\u00bfcuantos trabajadores han asistido hoy a mi empresa?\u00bb y te devuelve \u00ab100\u00bb. \u00bfC\u00f3mo sabes si es ver\u00eddica esa respuesta o se la ha inventado? <\/span><\/p>

La gran mayor\u00eda de las veces accionar\u00e1 la herramienta correspondiente para responder, pero habr\u00e1 ciertos momentos (ya sea por influencia del historial de conversaci\u00f3n, mal interpretaciones de las preguntas o porque ese d\u00eda estaba m\u00e1s vago de lo normal), puede que alucine, y eso es un problema.<\/span><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

La idea principal<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Cuando un agente orquestador conectado a tools devuelve una respuesta, el framework de LangChain utilizado en n8n siempre nos dir\u00e1 si utiliz\u00f3 o no una tool para formular la respuesta. Gracias a esto podemos detectar y prevenir alucinaciones.<\/span><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t

\n\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Si el o<\/span>rquestador<\/span><\/span><\/strong> ya us\u00f3 tools (hay <\/span>intermediateSteps<\/span><\/code>), su respuesta se acepta y se env\u00eda directamente al usuario. Si <\/span>no<\/span><\/span><\/strong> us\u00f3 tools, pasamos la respuesta y el contexto por <\/span>EvalAgent<\/span><\/span><\/strong> para decidir si <\/span>deb\u00eda<\/span><\/span><\/strong> usarlas o enviar la respuesta directamente al usuario.<\/span><\/p>

Si EvalAgent determina <\/span>NEED_TOOL<\/span><\/strong>, se <\/span>reintenta<\/span><\/strong> con una instrucci\u00f3n precisa; si despu\u00e9s de <\/span>3<\/span><\/strong> evaluaciones seguimos igual, <\/span>se corta<\/span><\/strong> el bucle.<\/span><\/p>

El Evaluador inspecciona la respuesta del Orquestador, si no hay intermediateStep decide si debi\u00f3 usar tools y emite un JSON (verdict, required_tools, message_to_agent) conforme al schema definido.<\/p>

Pros<\/strong>
– salidas auditables, validables y f\u00e1ciles de testear.<\/span><\/p>

Contras<\/strong>
– M\u00e1s latencia y coste cuando hay que reintentar (evaluaci\u00f3n + nueva ejecuci\u00f3n).
– Hay que manejar dos prompts complejos (el del Orquestador y el del Evaluador).<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t

Componentes de la arquitectura<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

1) Usuario (env\u00eda solicitudes y preguntas)
2) Agente orquestador de n8n (LangChain) con acceso a tools.
3) Script de validaci\u00f3n (determin\u00edstico): inspecciona si el output del orquestador incluye intermediateSteps.
4) Agente evaluador (EvalAgent): decide si hac\u00eda falta tools para contestar y, en su caso, qu\u00e9 tools y con qu\u00e9 instrucci\u00f3n.
5) Contador de iteraciones entre Orquestador \u2194 Evaluador (m\u00e1x. 3 evaluaciones por consulta) con el fin de prevenir bucles infinitos.
6) Finalizador: entrega la respuesta al usuario.<\/span><\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Ejemplo de flujo<\/h3>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

– Entrada: llega el user_query del usuario \u00abHola\u00bb.<\/span><\/p>

– Orquestador ejecuta con su prompt y tiene acceso a todas las tools.<\/span><\/p>

– Script de validaci\u00f3n:<\/span><\/p>