Asistente con documentos de empresa (RAG): cómo plantearlo

Qué es RAG, sin tecnicismos

Un asistente con documentos de empresa responde preguntas usando tus propios manuales, procedimientos, catálogos o contratos. La técnica más habitual para construirlo se llama RAG, siglas en inglés de generación aumentada por recuperación. Funciona en dos pasos: primero busca en tus documentos los fragmentos más relacionados con la pregunta y después pide a un modelo de lenguaje que redacte una respuesta basándose en esos fragmentos, indicando de dónde salen.

Es importante entender lo que no hace. El modelo no «aprende» tus documentos ni se reentrena con ellos; los consulta en cada pregunta. Eso tiene ventajas: si actualizas un procedimiento, el asistente usa la versión nueva en cuanto se vuelve a indexar, y puedes retirar un documento sin rehacer nada. También tiene una consecuencia: el asistente solo será tan bueno como los documentos que encuentre.

La calidad depende sobre todo de tres cosas: que los documentos sean correctos y estén vigentes, que la búsqueda encuentre los fragmentos adecuados y que la respuesta se limite a lo que dicen las fuentes. Las tres se pueden diseñar y medir.

Cuándo encaja y cuándo no

Un asistente de este tipo es útil cuando hay mucha documentación, las preguntas se repiten y encontrar la respuesta exige hoy buscar en varias carpetas o preguntar a un compañero con experiencia.

Si tu caso es mixto, por ejemplo un comercial que pregunta por las características de un producto y por su stock, el asistente necesitará combinar documentos con una consulta de solo lectura al ERP. Es viable, pero conviene plantearlo como dos piezas distintas, cada una con sus permisos y sus pruebas.

• Encaja: consultas sobre procedimientos internos, fichas técnicas, catálogos, normas internas, condiciones de servicio o manuales de equipos.
• Encaja: equipos que pierden tiempo buscando o que dependen de pocas personas expertas.
• No encaja bien: preguntas que requieren cálculos sobre datos del ERP; ahí hace falta una integración con el sistema, no solo documentos.
• No encaja bien: documentación desordenada, con versiones contradictorias y sin responsable.
• Requiere cuidado: respuestas directas a clientes sobre condiciones contractuales o precios, que conviene revisar antes de enviar.

Preparar los documentos

La preparación de los documentos es la parte más laboriosa y la que más influye en el resultado. Empieza por inventariar las colecciones que el asistente usará, con su propietario y su fecha de revisión, y retira lo que no deba consultarse: borradores, versiones antiguas y duplicados.

Por ejemplo, una empresa logística con varios almacenes que quiere un asistente sobre sus procedimientos operativos descubre al preparar los documentos que cada almacén tiene su propia versión de algunos procedimientos. Antes de conectar nada, tiene que decidir si se unifican o si el asistente debe distinguir por almacén usando un metadato. Esa decisión es de negocio, no técnica, y conviene tomarla antes de configurar la búsqueda.

• Una versión vigente por documento, con fecha y responsable visibles.
• Texto reconocible: los PDF escaneados necesitan conversión previa y revisión.
• Estructura clara: títulos y apartados ayudan a que la búsqueda encuentre el fragmento correcto.
• Metadatos útiles: área, tipo de documento, producto o sede a la que se refiere, nivel de acceso.
• Tablas e imágenes revisadas: a menudo se pierden al extraer el texto y conviene comprobarlas.

Permisos: el asistente no debe ampliar el acceso

Un asistente que responde con documentos puede saltarse sin querer los permisos de las carpetas originales. Si una persona no tiene acceso al documento de condiciones salariales, tampoco debe obtener su contenido preguntando. El filtrado debe hacerse en la búsqueda, antes de redactar la respuesta, de acuerdo con los permisos de quien pregunta.

Prueba el asistente con perfiles distintos y con preguntas diseñadas para intentar obtener información restringida. Comprueba también qué queda registrado: las preguntas de los usuarios pueden contener datos personales y conviene definir cuánto tiempo se guardan y quién puede verlas. Revisa con quien gestione la protección de datos dónde se alojan los documentos y los índices de búsqueda.

Decide también qué hacer con los documentos que mezclan información de distintos niveles de acceso, como un manual de producto con un anexo de tarifas internas. Lo más sencillo suele ser separarlos en documentos distintos, cada uno con sus permisos, antes de indexarlos.

Evaluar la calidad antes de abrirlo al equipo

No basta con hacer unas preguntas y ver si las respuestas suenan bien. Construye un banco de preguntas reales, con la respuesta correcta y el documento donde se encuentra, preparado por quienes conocen el contenido. Incluye preguntas fáciles, preguntas que requieren combinar dos documentos y preguntas cuya respuesta no está en la documentación.

Repite la evaluación cada vez que cambie algo importante: nuevos documentos, cambio de modelo o ajustes en la búsqueda. Un banco de preguntas bien hecho es una inversión que se reutiliza durante toda la vida del asistente.

• Respuesta correcta: coincide con lo que dice el documento vigente.
• Fuente correcta: el asistente cita el documento y el apartado adecuados.
• Abstención adecuada: cuando la respuesta no está, lo dice en lugar de inventarla.
• Respuesta completa: no omite condiciones o excepciones relevantes.

Operación y mantenimiento

Un asistente de documentos no se termina el día que se pone en marcha. Hay que actualizar los documentos, revisar las preguntas sin respuesta y corregir las respuestas que los usuarios señalan como erróneas. Asigna un responsable por colección documental y una revisión periódica de los registros.

Este trabajo de tratamiento de datos e integración es el valor añadido que distingue una implantación de una simple licencia. El documento del Plan IA360 indica que el futuro Bono IA financiará servicios de empresas tecnológicas europeas que aporten valor propio, como desarrollo, integración o tratamiento de datos, y no la mera suscripción a licencias. No hay convocatoria abierta ni bases que concreten qué será financiable.

• Un canal sencillo para que el usuario marque una respuesta incorrecta.
• Revisión de las preguntas frecuentes sin respuesta: indican documentos que faltan.
• Reindexado automático cuando se publica una versión nueva de un documento.
• Medición periódica del tiempo de búsqueda y de las respuestas con referencia correcta.