Las alucinaciones de los modelos de lenguaje no son un simple defecto de redacción. Son respuestas que pueden sonar coherentes y seguras sin estar respaldadas por hechos, fuentes o relaciones verificables. En una conversación informal el costo puede ser menor; en una decisión empresarial, una afirmación inventada sobre un proveedor, una región o una obligación puede alterar una operación.
Las ontologías y los grafos de conocimiento ofrecen mecanismos para reducir algunos de esos riesgos. Hacen explícitos los conceptos, las relaciones y las restricciones de un dominio. Sin embargo, no convierten automáticamente al modelo en un sistema veraz. Su contribución depende de la calidad del conocimiento, de la recuperación de evidencia y de los controles que conectan esa evidencia con la respuesta generada.
Por qué un LLM puede producir información falsa
El problema no se resuelve agregando datos sin más. Un LLM produce texto a partir de patrones aprendidos y del contexto disponible en cada interacción. Si la pregunta requiere información que no está representada en sus parámetros o en el contexto recibido, el modelo puede completar los vacíos con una continuación plausible. La fluidez no demuestra que una afirmación sea verdadera.
La literatura distingue diferentes formas de alucinación: afirmaciones que contradicen información verificable, contenido no sustentado por las fuentes disponibles y respuestas que distorsionan la intención o el contexto de la pregunta. En sistemas aumentados con recuperación, los errores también pueden aparecer antes de la generación: el buscador puede no encontrar el documento pertinente, recuperar una versión antigua o seleccionar pasajes que no responden a la consulta. Y aun con evidencia adecuada, el modelo puede interpretarla mal o añadir detalles que no aparecen en ella (Agrawal et al., 2024; Lavrinovics et al., 2025).
Qué aporta una ontología
Una ontología aporta una estructura semántica: define qué entidades existen en un dominio, qué relaciones pueden establecerse entre ellas y qué restricciones deben respetarse. En una empresa, por ejemplo, puede distinguir una sucursal de una región, un proveedor de un distribuidor y una fecha de contrato de una fecha de renovación. Esa precisión reduce ambigüedades que, de otro modo, el modelo tendría que resolver a partir del lenguaje ordinario.
Cuando esa ontología se conecta con un grafo de conocimiento, las relaciones pueden consultarse y recuperarse como evidencia contextual. El modelo ya no recibe únicamente fragmentos de texto: puede recibir entidades identificadas, vínculos explícitos, atributos, procedencia y fechas. La investigación sobre grafos de conocimiento y LLM identifica esta combinación como una vía prometedora para aportar conocimiento externo y reducir errores asociados a vacíos de conocimiento; también documenta desafíos abiertos de integración y evaluación (Agrawal et al., 2024; Lavrinovics et al., 2025).
Qué puede corregir y qué no
Esto permite corregir o contener ciertos errores. Primero, puede reducir la ambigüedad conceptual: si el sistema distingue con claridad una entidad de otra, disminuye el riesgo de mezclar registros homónimos. Segundo, puede hacer visibles relaciones incompatibles: una regla puede señalar que una entidad está vinculada a una categoría que no corresponde. Tercero, puede mejorar la fundamentación: la respuesta puede condicionarse a datos recuperados y acompañarse de referencias a las fuentes. Cuarto, puede permitir abstenerse: si no existe evidencia suficiente, el sistema puede declarar que no cuenta con información para responder.
La recuperación puede fallar, y un LLM puede ignorar, tergiversar o sobreinterpretar el contexto recuperado. La existencia de una cita tampoco garantiza que la cita respalde realmente la afirmación.
La evidencia debe sobrevivir a tres comprobaciones
Por eso conviene separar tres preguntas: ¿la información existe en la fuente?, ¿el sistema recuperó la evidencia pertinente?, ¿la respuesta generada se mantiene fiel a esa evidencia? Son controles distintos. La detección de alucinaciones en RAG requiere evaluar la consistencia factual respecto de una base de conocimiento y distinguir afirmaciones verificables de expresiones que no pueden comprobarse con ese criterio (Zimmerman et al., 2024).
La capa de orquestación convierte controles en operación
La capa de orquestación cognitiva convierte esa distinción en un flujo operativo. No es otro modelo ni un buscador adicional: coordina qué fuente consultar, qué representación semántica utilizar, qué modelo debe generar la respuesta, qué reglas se aplican, cómo se valida la salida y cuándo debe intervenir una persona. También puede registrar la consulta, las fuentes recuperadas, la versión del modelo, las reglas ejecutadas y el resultado de la validación. La eficacia depende de la implementación concreta: no basta con declarar que existe una capa de orquestación.
MatrIA: fundamentar respuestas con evidencia territorial
En este marco, MatrIA —propuesta tecnológica de Celestial Dynamics desde su Laboratorio Tecnológico de Ciencia Aplicada— permite ilustrar el papel de un conocimiento territorial organizado en grafos y representaciones híbridas. Ante una pregunta sobre actividad económica en una zona, por ejemplo, una respuesta puede apoyarse en entidades territoriales, establecimientos, categorías y relaciones recuperadas. La evidencia puede mostrar qué registros sustentan una conclusión y qué cobertura tienen.
Pero si la fuente es incompleta, la georreferenciación es imprecisa o la relación no está actualizada, el grafo no convierte esa información en verdad. MatrIA ejemplifica la fundamentación mediante evidencia recuperada; no elimina por sí misma las alucinaciones.
Caso: una respuesta sobre actividad económica territorial
Una dirección comercial pregunta qué zonas presentan una concentración relevante de establecimientos de cierto giro. El sistema consulta fuentes territoriales, recupera entidades y relaciones, y entrega al modelo el contexto pertinente junto con su procedencia y fecha.
Antes de responder, la capa de orquestación coordina controles: cobertura geográfica, actualidad de la fuente, consistencia de categorías y correspondencia entre afirmaciones y registros. Si los datos no permiten sostener una conclusión, el sistema debe indicarlo o escalar la consulta. El resultado no es una promesa de infalibilidad: es una respuesta cuyo fundamento y límites pueden examinarse.
Diseñar para responder, pero también para abstenerse
Un flujo responsable debe contemplar al menos cinco momentos: interpretar la pregunta y delimitar el dominio; recuperar fuentes y relaciones pertinentes; generar una respuesta restringida al contexto disponible; contrastar cada afirmación verificable con la evidencia; y abstenerse o escalar cuando haya contradicciones, vacíos o consecuencias relevantes. La validación puede combinar reglas deterministas, comprobaciones semánticas, modelos de evaluación y revisión humana. Ningún mecanismo aislado resuelve todos los casos.
En una organización, el criterio no debería ser que el sistema siempre responda. Debería ser que responda cuando dispone de evidencia suficiente, indique los límites de esa evidencia y se detenga cuando no pueda sostener una conclusión. Una respuesta breve que reconoce una laguna puede ser operativamente más valiosa que una explicación extensa pero inventada.
Las ontologías pueden mejorar la precisión del contexto; los grafos pueden hacer recuperables las relaciones; RAG puede acercar fuentes externas al momento de generación; y los mecanismos de validación pueden detectar algunas desviaciones. Ninguno garantiza por separado la verdad. La confiabilidad emerge de su integración y de la supervisión de todo el proceso.
El desafío empresarial, por tanto, no consiste únicamente en elegir un LLM más potente. Consiste en construir una arquitectura que coordine conocimiento, fuentes, modelos, reglas y personas, y que haga verificable el recorrido entre una pregunta y una respuesta. Esa es la función de la capa de orquestación: convertir capacidades dispersas en un proceso de inteligencia operativa con límites explícitos y evidencia rastreable.
En síntesis
- Una ontología hace explícitos conceptos, relaciones y restricciones; no certifica la verdad de los datos.
- Un grafo de conocimiento puede aportar evidencia estructurada, pero también puede estar incompleto o desactualizado.
- RAG reduce ciertos vacíos de contexto, aunque la recuperación y la generación siguen siendo fuentes posibles de error.
- La validación debe comprobar que cada afirmación verificable esté respaldada por la evidencia recuperada.
- La capa de orquestación coordina fuentes, modelos, reglas, validaciones, registros y revisión humana.
- Un sistema confiable debe saber abstenerse cuando no dispone de evidencia suficiente.
Referencias
- Agrawal, G., Kumarage, T., Alghamdi, Z., y Liu, H. (2024). Can knowledge graphs reduce hallucinations in LLMs? A survey. En Proceedings of the 2024 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers) (pp. 3947–3960). Association for Computational Linguistics. https://doi.org/10.18653/v1/2024.naacl-long.219
- Lavrinovics, E., Biswas, R., Bjerva, J., y Hose, K. (2025). Knowledge graphs, large language models, and hallucinations: An NLP perspective. Journal of Web Semantics, 85, 100844. https://doi.org/10.1016/j.websem.2024.100844
- Zimmerman, I., Tredup, J., Selfridge, E., y Bradley, J. (2024). Two-tiered encoder-based hallucination detection for retrieval-augmented generation in the wild. En Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing: Industry Track (pp. 8–22). Association for Computational Linguistics. https://doi.org/10.18653/v1/2024.emnlp-industry.2
Preguntas frecuentes
¿Una ontología elimina las alucinaciones de un LLM?
No. Puede aportar conceptos, relaciones y restricciones que ayuden a fundamentar respuestas y detectar incompatibilidades, pero no garantiza que las fuentes sean correctas ni que el modelo utilice bien la evidencia.
¿Un grafo de conocimiento basta para evitar respuestas falsas?
No. El grafo puede estar incompleto, desactualizado o contener errores. Además, el sistema puede recuperar relaciones irrelevantes o generar afirmaciones que la evidencia no respalda.
¿RAG y una ontología hacen lo mismo?
No. RAG recupera información externa para incorporarla al contexto de generación. Una ontología formaliza conceptos, relaciones y restricciones. Pueden complementarse, pero cumplen funciones distintas.
¿Qué debe hacer la capa de orquestación?
Coordinar la recuperación de fuentes, la selección del modelo, la aplicación de reglas, la comprobación de evidencias y el escalamiento a una persona cuando la respuesta no alcance el umbral de confianza definido.
