Qué es RAG: IA que responde con los documentos de tu empresa

RAG (Retrieval-Augmented Generation, o generación aumentada por recuperación) es la técnica que permite que un modelo de IA responda usando los documentos de tu empresa y no solo lo que aprendió durante su entrenamiento. Antes de contestar, el sistema busca los fragmentos relevantes de tus manuales, contratos o actas y se los pasa al modelo junto con la pregunta. Hoy es la forma más práctica de tener una IA que conoce tu organización.

En este artículo te explico cómo funciona por dentro, por qué falla cuando falla y cómo preparar tus documentos para que funcione. Es lo que hago cuando conecto la base documental de una organización a elXat.

Qué es RAG, explicado sin jerga

Piensa en un examen a libro abierto. Un modelo de lenguaje como GPT, Claude o Gemini sabe mucho de todo, pero no ha leído el protocolo de vacaciones de tu empresa ni el acta de la última junta. Si le preguntas por ellos, o te dice que no lo sabe, o se lo inventa.

Con RAG, antes de que el modelo responda, alguien le abre el libro por la página correcta. El modelo lee esos fragmentos y contesta a partir de ellos. Si el sistema está bien hecho, además te dice de qué documento ha sacado cada cosa.

Cómo funciona RAG paso a paso

Un sistema RAG tiene dos fases: una de preparación, que se hace una vez por documento, y otra de consulta, que se hace con cada pregunta.

1. Extraer el texto

Primero hay que sacar el texto de cada archivo: PDF, Word, Excel, presentaciones, correos. Parece trivial y es donde empiezan la mitad de los problemas. Un PDF escaneado es una imagen; sin reconocimiento óptico de caracteres (OCR), no hay texto que extraer.

2. Trocear los documentos (chunking)

Un manual de 80 páginas no cabe entero en cada consulta, ni tendría sentido. Se divide en fragmentos (chunks) de un tamaño manejable, normalmente respetando la estructura: apartados, párrafos, filas de una tabla. Se suele dejar un pequeño solapamiento entre fragmentos para no cortar una idea por la mitad.

3. Convertir cada fragmento en un embedding

Cada fragmento se pasa por un modelo de embeddings, que lo convierte en una lista de números que representa su significado. Dos textos que hablan de lo mismo con palabras distintas («baja por enfermedad» e «incapacidad temporal») acaban con números parecidos. Estos vectores se guardan en una base de datos vectorial.

4. Buscar los fragmentos relevantes

Cuando alguien pregunta, la pregunta también se convierte en un embedding y se buscan los fragmentos más cercanos. Los buenos sistemas combinan esta búsqueda por significado con la búsqueda clásica por palabras clave, que funciona mejor con códigos, referencias o nombres propios.

5. Generar la respuesta

Los fragmentos encontrados se envían al modelo junto con la pregunta y unas instrucciones del tipo: «responde solo con esta información y, si no está, dilo». El modelo redacta la respuesta.

6. Citar las fuentes

La respuesta indica de qué documento y apartado sale cada dato. Sin citas, no puedes saber si el modelo ha leído bien o se ha inventado algo. Para mí es un requisito, no un extra.

RAG o fine-tuning: qué conviene para los documentos de tu empresa

Mucha gente cree que, para que una IA «sepa» lo de su empresa, hay que entrenarla con sus documentos. Eso es el fine-tuning, y para la mayoría de casos con documentos internos no es la herramienta adecuada.

	RAG	Fine-tuning
Qué hace	Busca información en tus documentos en cada consulta	Ajusta el propio modelo con ejemplos
Actualizar información	Subes o quitas un documento y listo	Hay que volver a entrenar
Citas a la fuente	Sí, de forma natural	No; el conocimiento queda mezclado en el modelo
Control de acceso	Se puede filtrar por usuario o grupo	Lo que aprende, lo sabe para todos
Para qué sirve mejor	Responder sobre hechos y documentos concretos	Enseñar un estilo, un formato o una tarea repetitiva
Cambiar de modelo	Mantienes el índice y cambias el modelo	Tienes que repetir el ajuste

El fine-tuning tiene su sitio, por ejemplo cuando quieres que el modelo siga siempre un formato muy concreto. Pero si lo que necesitas es que responda con la normativa vigente y te diga dónde lo pone, RAG es más barato de mantener, más fácil de auditar y no te ata a un modelo.

Por qué falla un sistema RAG (y cómo evitarlo)

Cuando un RAG da malas respuestas, casi nunca es culpa del modelo. Estos son los fallos que más me encuentro:

PDFs escaneados o mal generados. Sin OCR no hay texto. Y con OCR de mala calidad, las tablas se convierten en una sopa de números sin columnas.
Documentos desactualizados. Si conviven la normativa de 2022 y la de 2025, el sistema puede citar la vieja con total seguridad. RAG responde con lo que le das.
Versiones duplicadas. «Contrato_final», «Contrato_final_v2», «Contrato_final_bueno». El modelo no sabe cuál vale.
Permisos que se filtran entre departamentos. Si todos los documentos van al mismo índice sin control de acceso, cualquiera puede preguntar por las nóminas o por un expediente disciplinario y obtener fragmentos. Los permisos deben aplicarse en la búsqueda, antes de que nada llegue al modelo.
Fragmentos mal dimensionados. Demasiado pequeños y pierden contexto («el plazo es de 15 días», ¿de qué?). Demasiado grandes y la búsqueda se vuelve imprecisa.
Respuestas sin citas. Un sistema que no cita es imposible de verificar, y la gente deja de confiar en él a la primera respuesta errónea.
Preguntas que no son de búsqueda. «¿Cuántos contratos vencen en marzo?» exige recorrer todos los contratos y contar. RAG recupera unos pocos fragmentos; para eso necesitas una consulta a una base de datos o un proceso aparte.

Cómo preparar los documentos de tu empresa para la IA

La calidad de las respuestas depende sobre todo de la calidad de los documentos. Antes de subir nada, dedica tiempo a esto:

Elige qué documentos entran. Empieza por lo que más se consulta: manuales, normativas y procedimientos internos, actas, contratos tipo, informes. Mejor pocos y buenos que todo el servidor de archivos.
Quita lo obsoleto. Una sola versión vigente de cada documento. Si necesitas conservar las antiguas, que no estén en el mismo índice.
Asegura que hay texto. Pasa OCR a los escaneados y revisa a mano los que tengan tablas importantes.
Añade metadatos. Fecha, departamento, tipo de documento y vigencia. Sirven para filtrar y para que la respuesta diga «según el procedimiento de compras de 2026».
Organiza por categorías y prioridades. Si un reglamento interno debe pesar más que un correo antiguo sobre el mismo tema, indícalo.
Define quién ve qué. Decide por grupos qué documentos puede consultar cada persona antes de subirlos.
Minimiza los datos personales. Un expediente con datos de salud no debería estar en una base documental general. Si tienes dudas sobre este punto, en ChatGPT en la empresa y RGPD explico qué datos conviene no meter en un sistema de IA y por qué.
Nombra a un responsable. Alguien que añada documentos nuevos y retire los que caducan. Un RAG sin mantenimiento se degrada en pocos meses.

Cómo evaluar si tu RAG responde bien

No hace falta una métrica sofisticada para empezar. Lo que funciona es un juego de preguntas reales:

Recoge preguntas de verdad. Pide a las personas que más usan los documentos las preguntas que les hacen a menudo. Unas decenas bastan para empezar.
Apunta la respuesta correcta y su fuente. Para cada pregunta, qué debería responder y en qué documento y apartado está.
Incluye preguntas trampa. Algunas cuya respuesta no está en los documentos. El sistema debe decir que no lo sabe, no inventarlo.
Pasa las preguntas y puntúa. Para cada una: ¿la respuesta es correcta?, ¿cita el documento adecuado?, ¿reconoce cuando no sabe?
Repite tras cada cambio. Cuando subes documentos, cambias el troceado o cambias de modelo, vuelve a pasar el mismo juego y compara.

Este ejercicio te dice más que cualquier demo. Y te da un argumento claro para el equipo: «de estas preguntas, acierta tantas y cita bien tantas».

Cómo lo aplico en elXat

En elXat, la base de conocimiento interna funciona con RAG: la organización sube PDF, Word, Excel, presentaciones y correos, y el modelo consulta esos documentos en tiempo real al responder. La plataforma da acceso a varios modelos (GPT, Claude, Gemini, Mistral y otros) y permite comparar sus respuestas en una misma conversación, algo útil cuando estás evaluando qué modelo responde mejor con tus documentos.

La integración de documentos es un paso propio de la puesta en marcha, no algo que se deja para después. Ahí trabajamos con los manuales, normativas, actas, contratos e informes de la organización, y definimos categorías y prioridades de consulta. Es exactamente lo que he descrito en este artículo, aplicado a un caso concreto.

Si quieres conectar los documentos de tu organización a una IA y no sabes por dónde empezar, puedes escribirme desde contacto.

Preguntas frecuentes

¿Qué significa RAG en inteligencia artificial?

RAG son las siglas de Retrieval-Augmented Generation, generación aumentada por recuperación. Es una técnica en la que, antes de responder, el sistema busca los fragmentos relevantes de tus documentos y se los pasa al modelo de lenguaje junto con la pregunta, para que conteste basándose en ellos.

¿RAG entrena el modelo con los documentos de mi empresa?

No. Los documentos se indexan aparte y solo los fragmentos relevantes se envían al modelo como contexto en cada consulta. El modelo no cambia. Lo que sí debes revisar es qué hace el proveedor con esas consultas: si las conserva o si puede usarlas para entrenar.

¿Qué documentos funcionan mejor en un sistema RAG?

Los que tienen texto real (no imágenes escaneadas sin OCR), una sola versión vigente y una estructura clara con títulos y apartados: manuales, normativas, procedimientos, actas, contratos e informes. Las tablas complejas y los documentos obsoletos son las fuentes de error más habituales.

¿RAG elimina las alucinaciones de la IA?

Las reduce mucho, pero no las elimina. El modelo puede interpretar mal un fragmento o rellenar huecos. Por eso es importante que cada respuesta cite el documento de origen, para que la persona pueda comprobarla.