Una alucinación ocurre cuando el LLM afirma algo con seguridad, pero sin respaldo en los datos — un número que no existe, un id inventado, un total sobre una muestra. Esta página explica cómo ingestia.io reduce y detecta las alucinaciones y cómo puedes comprobarlo. El principio de la casa es uno solo:
La IA del producto se niega y avisa — no finge. Cuando no hay evidencia, dice que no la hay.
Revisa siempre
Las defensas descritas aquí son deterministas y están cubiertas por pruebas — pero ninguna defensa elimina el 100% del riesgo. Revisa siempre.
La idea central: el LLM redacta, el código valida#
El punto que lo cambia todo: quien decide si la respuesta tiene respaldo es código puro, no el LLM. El modelo escribe el texto; validadores deterministas comprueban ese texto contra lo que realmente viajó en el prompt. Es verificación sobre la salida del LLM.
Cómo se defiende cada capacidad#
| Capacidad | Defensa determinista |
|---|---|
| Q&A | Cada widget/fila recibe un id ([W1], [W1.r3]); el LLM debe citar esos ids, y verificarCitacoes comprueba cada cita contra el índice de lo que viajó — no contra el texto del modelo. Una cita falsificada no pasa. |
| Text-to-SQL | Genera solo SELECT; en el camino semántico, id inexistente → SQL descartado; ambigüedad → negativa antes de gastar tokens; un dry-run real en el datalake valida bytes/costo. |
| Generación asistida | El artefacto pasa por los mismos validadores del editor (medida, typecheck de fórmula, compilación del modelo, allowlist de visuales, validación de SQL). Si no aprueba → autocorrección una vez; si persiste → sale como borrador con los errores a la vista. |
| Narrativa | Regla innegociable en el prompt: usar exclusivamente números presentes en los datos. Sin período anterior, la variación es null y la narrativa declara "sin base de comparación" — nunca inventa. |
| Insights | Las "anomalías" y "recomendaciones" son lectura del LLM, marcadas como hipótesis — separadas del detector estadístico determinista (ver Anomalías). |
Las formas de negativa (la respuesta sin respaldo no sale como hecho)#
fora_do_contexto— la pregunta no toca ningún término del panel: se rechaza antes de gastar tokens.sem_evidencia— el LLM respondió, pero ninguna cita coincide: se convierte en negativa (el costo real se liquida con honestidad).evidenciaFraca— la mayoría de las citas es mala: la respuesta sale con aviso, y solo las citas que coinciden cuentan como evidencia.ia_indisponivel— sin proveedor/error: fallback honesto, citas vacías, nunca evidencia fingida.
Regla de oro: sin causalidad no probada#
Ninguna respuesta de IA afirma causa y efecto que los datos no comprueban. La narrativa usa solo números presentes; el Q&A solo afirma lo que puede citar; los insights son hipótesis; las anomalías/previsiones describen desvío y tendencia estadísticos, nunca "X causó Y". Una correlación vista en un panel no se convierte en causa.
Cómo lo compruebas (validación práctica)#
Prueba la cita falsificada
En el Q&A, pon en una celda un texto como "[W9.r9]" y confirma que NO se convierte en una cita válida.
Fuerza una negativa
Haz una pregunta que el panel no sustenta y confirma que sale como negativa, no como hecho.
Revisa el SQL
En el text-to-SQL, lee el SQL y la explicación antes de ejecutarlo; comprueba los nombres de columna/tabla.
Verifica el borrador honesto
En la generación asistida, pide algo imposible y confirma
rascunho: truecon los errores listados.Comprueba la procedencia
Toda respuesta trae
proveniencia(modelo, versión del prompt, costo en R$, opId) — úsala para auditar.
Señales de alerta (cuándo desconfiar)#
- Un número demasiado "redondo" o que no encuentras en el panel.
- Una afirmación de total sobre un visual marcado como muestra.
- Lenguaje de causa ("bajó por culpa de…") — la IA no debería afirmar eso.
- Una respuesta sin cita en el Q&A.
Límites y salvedades#
- La validación determinista cubre estructura, ids, citas y SQL — no garantiza que la interpretación de negocio sea correcta. El humano decide.
Relacionados#
- Buenas prácticas de prompt
- Q&A del panel
- Aprobación humana y auditoría
- Privacidad, envío externo, presupuesto y apagado
Última revisión: 2026-09-08.