IA con tus propios documentos: qué es RAG y cómo funciona

Un modelo de lenguaje sabe lo que aprendió en su entrenamiento, pero no conoce tus documentos, tus correos ni las normas internas de tu empresa. Y no puede leer archivos enormes de una vez, porque su ventana de contexto es limitada. La técnica que resuelve ambas cosas se llama RAG (Retrieval-Augmented Generation, generación aumentada por recuperación).

La idea en tres pasos

1. Preparar los documentos. Se dividen en fragmentos pequeños (párrafos o trozos de unas pocas frases) y cada fragmento se convierte en una lista de números llamada embedding, que representa su significado. Esos números se guardan en una base de datos especial.
2. Recuperar. Cuando haces una pregunta, esta se convierte también en un embedding y se buscan los fragmentos cuyo significado es más cercano.
3. Generar. Los fragmentos encontrados se añaden a la pregunta como contexto, y el modelo redacta la respuesta basándose en ellos.

En lugar de «aprender» tus documentos, el modelo los consulta en el momento de responder, como quien abre un libro antes de contestar.

Para qué sirve

• Preguntar a un manual, un contrato o una carpeta de PDF sin leerlos enteros.
• Atención al cliente que responde con la documentación de la empresa.
• Resumir y comparar información dispersa en muchos archivos.
• Mantener las respuestas al día: basta con actualizar los documentos, sin reentrenar el modelo.

Ventajas frente a reentrenar

Es más barato y rápido que ajustar un modelo, permite citar el origen de cada respuesta y reduce las invenciones porque se apoya en texto real.

Límites que conviene conocer

• Si no recupera el fragmento adecuado, la respuesta será mala, aunque el modelo sea excelente. La calidad depende de cómo se trocean y se buscan los documentos.
• Puede seguir equivocándose o mezclar información: comprueba las citas, como en las alucinaciones.
• No entiende bien las tablas, las imágenes ni los PDF escaneados si no se procesan antes (por ejemplo, con OCR).
• Los permisos importan: un sistema mal diseñado podría mostrar a una persona información de documentos a los que no debería acceder.

Privacidad

Los fragmentos viajan al modelo para generar la respuesta. Si usas un servicio externo, esos datos salen de tu equipo. Para información sensible, existen opciones que funcionan en local, como se explica en IA en local con Ollama. Antes de subir documentos a un servicio, revisa sus condiciones de uso y qué hace con ellos.