Saltar al contenido

Traducción automática — la versión en portugués es la referencia. Ver en portugués

Actualizado el 2026-09-08

Alucinaciones y validación

Qué es una alucinación de un LLM, cómo ingestia.io la detecta y la rechaza, y cómo puedes comprobarlo.

En esta página (8)

Una alucinación ocurre cuando el LLM afirma algo con seguridad, pero sin respaldo en los datos — un número que no existe, un id inventado, un total sobre una muestra. Esta página explica cómo ingestia.io reduce y detecta las alucinaciones y cómo puedes comprobarlo. El principio de la casa es uno solo:

La IA del producto se niega y avisa — no finge. Cuando no hay evidencia, dice que no la hay.

Revisa siempre

Las defensas descritas aquí son deterministas y están cubiertas por pruebas — pero ninguna defensa elimina el 100% del riesgo. Revisa siempre.

La idea central: el LLM redacta, el código valida#

El punto que lo cambia todo: quien decide si la respuesta tiene respaldo es código puro, no el LLM. El modelo escribe el texto; validadores deterministas comprueban ese texto contra lo que realmente viajó en el prompt. Es verificación sobre la salida del LLM.

Cómo se defiende cada capacidad#

CapacidadDefensa determinista
Q&ACada widget/fila recibe un id ([W1], [W1.r3]); el LLM debe citar esos ids, y verificarCitacoes comprueba cada cita contra el índice de lo que viajó — no contra el texto del modelo. Una cita falsificada no pasa.
Text-to-SQLGenera solo SELECT; en el camino semántico, id inexistente → SQL descartado; ambigüedad → negativa antes de gastar tokens; un dry-run real en el datalake valida bytes/costo.
Generación asistidaEl artefacto pasa por los mismos validadores del editor (medida, typecheck de fórmula, compilación del modelo, allowlist de visuales, validación de SQL). Si no aprueba → autocorrección una vez; si persiste → sale como borrador con los errores a la vista.
NarrativaRegla innegociable en el prompt: usar exclusivamente números presentes en los datos. Sin período anterior, la variación es null y la narrativa declara "sin base de comparación" — nunca inventa.
InsightsLas "anomalías" y "recomendaciones" son lectura del LLM, marcadas como hipótesis — separadas del detector estadístico determinista (ver Anomalías).

Las formas de negativa (la respuesta sin respaldo no sale como hecho)#

  • fora_do_contexto — la pregunta no toca ningún término del panel: se rechaza antes de gastar tokens.
  • sem_evidencia — el LLM respondió, pero ninguna cita coincide: se convierte en negativa (el costo real se liquida con honestidad).
  • evidenciaFraca — la mayoría de las citas es mala: la respuesta sale con aviso, y solo las citas que coinciden cuentan como evidencia.
  • ia_indisponivel — sin proveedor/error: fallback honesto, citas vacías, nunca evidencia fingida.

Regla de oro: sin causalidad no probada#

Ninguna respuesta de IA afirma causa y efecto que los datos no comprueban. La narrativa usa solo números presentes; el Q&A solo afirma lo que puede citar; los insights son hipótesis; las anomalías/previsiones describen desvío y tendencia estadísticos, nunca "X causó Y". Una correlación vista en un panel no se convierte en causa.

Cómo lo compruebas (validación práctica)#

  1. Prueba la cita falsificada

    En el Q&A, pon en una celda un texto como "[W9.r9]" y confirma que NO se convierte en una cita válida.

  2. Fuerza una negativa

    Haz una pregunta que el panel no sustenta y confirma que sale como negativa, no como hecho.

  3. Revisa el SQL

    En el text-to-SQL, lee el SQL y la explicación antes de ejecutarlo; comprueba los nombres de columna/tabla.

  4. Verifica el borrador honesto

    En la generación asistida, pide algo imposible y confirma rascunho: true con los errores listados.

  5. Comprueba la procedencia

    Toda respuesta trae proveniencia (modelo, versión del prompt, costo en R$, opId) — úsala para auditar.

Señales de alerta (cuándo desconfiar)#

  • Un número demasiado "redondo" o que no encuentras en el panel.
  • Una afirmación de total sobre un visual marcado como muestra.
  • Lenguaje de causa ("bajó por culpa de…") — la IA no debería afirmar eso.
  • Una respuesta sin cita en el Q&A.

Límites y salvedades#

  • La validación determinista cubre estructura, ids, citas y SQL — no garantiza que la interpretación de negocio sea correcta. El humano decide.

Relacionados#


Última revisión: 2026-09-08.

Enlaces relacionados