Una alucinación es una salida que parece plausible pero no está respaldada por la evidencia disponible. Puede inventar una cita, fusionar a dos personas, usar una política desactualizada, interpretar mal una tabla o completar con seguridad un vacío que la fuente nunca respondió. La fluidez vuelve peligrosos estos errores porque la calidad de presentación puede confundirse con fiabilidad.
Este comportamiento se deriva de cómo funcionan los modelos generativos. Producen continuaciones probables según las instrucciones y el contexto proporcionados; no consultan un registro interno que garantice la verdad de cada frase. Los modelos mejores pueden reducir las tasas de error, pero ningún sistema de propósito general elimina la necesidad de controles.
El riesgo depende del trabajo. Una metáfora inesperada en una sesión de ideas puede resultar útil. Una cifra inventada en un informe financiero no. Define qué afirmaciones requieren evidencia, qué incertidumbre es aceptable y quién asume el coste de un error antes de elegir el nivel de automatización.
La fundamentación es la primera defensa. Proporciona fuentes actuales y relevantes e indica al modelo que las use. La generación aumentada por recuperación puede incorporar documentos privados o cambiantes a la solicitud. La fundamentación también necesita evaluación: recuperar un pasaje irrelevante o desactualizado puede producir un error con buenas citas.
Exige trazabilidad al nivel de cada afirmación. Una lista de fuentes al final de una respuesta no muestra qué fuente respalda cada enunciado. Pide citas junto a las afirmaciones factuales, conserva identificadores de documentos y facilita que quien revisa abra el pasaje citado. Nunca trates una cita generada por un modelo como verificada hasta comprobar el destino y el respaldo.
Da al modelo permiso para abstenerse. Si la evidencia no responde a la pregunta, la salida correcta puede ser «información insuficiente», una petición de un documento ausente o una lista de puntos sin resolver. Una aplicación que recompensa completar a cualquier precio fomentará conjeturas seguras de sí mismas.
La validación debe corresponderse con la salida. Los datos estructurados se pueden comprobar contra un esquema, un intervalo o un vocabulario conocido. Los cálculos se pueden volver a realizar. Los nombres e identificadores se pueden cotejar con una base de datos. Las citas se pueden localizar en el texto de origen. El código se puede compilar y probar. Estas comprobaciones deterministas detectan fallos que otra revisión de modelo en formato libre podría repetir.
Separa la extracción de la interpretación en documentos difíciles. Primero captura los valores y pasajes pertinentes con coordenadas o citas. Después pide al modelo que los explique. Así se crea un artefacto intermedio que una persona o una prueba puede inspeccionar y se reduce la posibilidad de que una narrativa pulida oculte un error de lectura.
Usa una revisión independiente en las decisiones de alto impacto. La persona que revisa necesita la evidencia original, no solo la respuesta. La supervisión humana es más útil cuando esa persona tiene autoridad para detener el flujo de trabajo y tiempo suficiente para examinar las afirmaciones arriesgadas; una casilla de aprobación automática aporta poca protección.
Supervisa los fallos de producción en lugar de confiar solo en las evaluaciones previas al lanzamiento. Dentro de los límites de privacidad, guarda prompts representativos, evidencia recuperada, salidas, correcciones y versiones de modelo. Agrupa los errores por causa: fuente ausente, recuperación incorrecta, ambigüedad del prompt, síntesis sin respaldo, datos obsoletos o fallo de validación. Cada causa requiere una corrección distinta.
Comunica la incertidumbre con honestidad en la interfaz. Muestra fechas de verificación, cobertura de fuentes y si la respuesta se generó a partir de documentos aportados por el usuario o del conocimiento general del modelo. Evita distintivos que insinúen una garantía que el sistema no puede ofrecer.
El objetivo práctico no es prometer que una IA nunca alucina. Es hacer que las afirmaciones sin respaldo sean más difíciles de producir, más fáciles de detectar, más baratas de corregir y menos propensas a llegar sin aviso a una decisión importante.
Combinamos fuentes primarias, documentación de producto y casos de uso reales para ayudarte a valorar si una herramienta encaja en tu flujo de trabajo.