
RAG o fine-tuning: entrenar con documentos puede dejar la IA desactualizada

Si una aplicación responde sobre políticas, manuales o datos que cambian, conviene empezar por RAG: recupera contenido al recibir la consulta y permite actualizar las fuentes sin volver a ajustar el modelo. Entrenar con ejemplos basados en una versión anterior puede dejar las respuestas desactualizadas; la comparación de AWS señala que el ajuste fino resulta poco adecuado para documentos que cambian con frecuencia y que, por sí solo, no proporciona referencias a las fuentes.
El ajuste fino encaja mejor cuando el contenido necesario ya está disponible, pero el modelo falla de manera repetida al seguir una tarea, mantener una terminología o producir un formato. Si una aplicación necesita hechos vigentes y una conducta estable, puede combinar recuperación y ajuste fino. La decisión depende de qué debe actualizarse, quién puede ver cada dato y dónde aparecen los errores.
Seis variables para decidir
- Actualización. Si una norma puede cambiar antes de que sea viable preparar ejemplos, entrenar, evaluar y desplegar otra versión del modelo, favorece RAG. Si el contenido es estable y el problema persiste en la ejecución de una tarea, considera el ajuste fino.
- Citas. Si la respuesta debe indicar qué documento y qué versión sustentan una afirmación, recupera fragmentos con identificadores de procedencia. Mostrar una referencia exige además comprobar que esa referencia respalda lo que afirma la respuesta.
- Permisos. Si cada usuario puede consultar un conjunto distinto de documentos, filtra los resultados según su identidad antes de pasarlos al modelo. Incorporar información restringida al entrenamiento no establece un control de acceso por solicitud.
- Formato. Si lo decisivo es mantener campos, categorías o terminología, empieza con instrucciones claras y validación de la salida. El ajuste fino cobra sentido cuando los fallos persisten y hay ejemplos representativos de la tarea.
- Latencia. RAG añade una búsqueda antes de generar la respuesta; el ajuste fino puede evitarla cuando no hace falta consultar información externa. Compara el tiempo de la solicitud completa, incluida cualquier validación.
- Coste. RAG requiere preparar e indexar fuentes, mantenerlas actualizadas y enviar contexto al modelo. El ajuste fino requiere ejemplos, entrenamiento, evaluación y mantenimiento de versiones; la combinación incorpora trabajo de ambos lados.
Qué resuelve la recuperación y qué deja pendiente
En una arquitectura RAG, el sistema busca fragmentos pertinentes cuando llega una pregunta y los entrega al modelo como contexto. Para un asistente de políticas internas, esto permite reemplazar una política en la colección consultable sin repetir el entrenamiento. Es un ejemplo hipotético: la mejora depende de que el documento nuevo se incorpore al índice y de que la búsqueda lo encuentre.
La procedencia aporta una ventaja concreta. Si se guardan la ubicación y la versión del fragmento, una respuesta puede remitir al texto utilizado. Aun así, recuperar la fuente correcta no garantiza interpretarla bien: el modelo puede omitir una excepción, mezclar versiones o afirmar más de lo que permite el pasaje. También puede recibir un fragmento irrelevante si la búsqueda falla. Son errores distintos y requieren examinar tanto la selección del contexto como la respuesta.
La recuperación tampoco convierte cualquier colección documental en una base de respuestas útil. Hay que decidir cómo dividir documentos largos, conservar la relación entre fragmentos y versiones, y retirar del índice el contenido sustituido. Si permanece una política antigua junto a la vigente sin una regla clara de prioridad, el sistema puede recuperar ambas y generar una respuesta contradictoria.
Los permisos forman parte de la búsqueda
Cuando los documentos tienen distintos niveles de acceso, el filtro debe actuar antes de que el contenido llegue al modelo. La documentación de Azure AI Search describe filtros que excluyen resultados según la identidad del usuario; sus integraciones nativas de permisos para ciertas fuentes siguen en vista preliminar. La elección entre esas opciones depende de la fuente de datos y del sistema de identidades utilizado.
El permiso almacenado en el índice debe reflejar el permiso de la fuente. Si cambia el acceso a un archivo y esa modificación aún no se sincroniza, la búsqueda puede trabajar con reglas antiguas. Por eso, en una aplicación empresarial, actualizar contenido y actualizar autorizaciones son operaciones relacionadas pero distintas. Una respuesta con una cita correcta sigue siendo un problema si se construyó con un documento que el solicitante no podía consultar.
Cuándo compensa ajustar el modelo
El ajuste fino modifica la conducta del modelo a partir de ejemplos de la tarea. Puede servir para clasificar solicitudes con criterios estables, mantener terminología especializada o producir salidas consistentes cuando las instrucciones no bastan. La guía de arquitectura de AWS lo sitúa en tareas estrechas y repetitivas, así como en estilos o formatos difíciles de conseguir mediante instrucciones, y destaca el coste de preparar datos de calidad.
En un caso hipotético, una empresa recibe descripciones de incidencias y necesita convertirlas siempre en una categoría y un conjunto de campos. Si una instrucción y una validación posterior ya consiguen ese resultado, entrenar añade mantenimiento sin una mejora demostrada. Si los fallos se repiten pese a esas medidas, los ejemplos de entrada y salida permiten enseñar el patrón deseado y comparar el resultado con el sistema inicial.
Los ejemplos deben parecerse a las solicitudes reales, incluidas las excepciones relevantes. Un conjunto construido solo con casos fáciles puede mejorar la apariencia de las respuestas habituales y fallar precisamente donde importa la decisión. Además, si cambian las categorías o las reglas que definen la salida, habrá que revisar los ejemplos afectados y evaluar de nuevo el modelo. El ajuste fino tampoco ofrece por sí mismo una referencia fiable a la versión de una política que pudo influir en una respuesta.
Cuándo combinar los dos métodos
Una solución híbrida tiene sentido cuando los hechos deben proceder de documentos vigentes, pero la forma de usarlos falla de manera persistente. La secuencia puede ser autorizar la consulta, recuperar fragmentos y entregarlos a un modelo ajustado para responder con una estructura determinada. La guía de optimización de OpenAI distingue los problemas de contexto de los de conducta y contempla combinar recuperación y ajuste fino cuando aparecen ambos.
Un asistente interno hipotético podría consultar solo políticas accesibles para cada empleado y separar siempre en su respuesta la decisión, el fundamento y la referencia. El ajuste fino se dirigiría al uso del contexto y a la estructura de la salida; las políticas seguirían en la colección recuperable. Para entrenar ese comportamiento, los ejemplos tendrían que incluir el tipo de fragmentos que recibirá el modelo al responder, no únicamente preguntas aisladas.
La combinación añade dependencias. Una respuesta deficiente puede deberse a un documento ausente, un filtro de permisos, un fragmento mal seleccionado o una interpretación equivocada del contexto recuperado. Si RAG con instrucciones y validación ya cumple el requisito de formato, el modelo ajustado suma coste sin resolver un fallo observado.
Cómo comparar resultados sin confundir las causas
No hay un ganador universal. Un estudio sobre adaptación de modelos para diálogo comparó técnicas en distintos tipos de conversación y concluyó que su eficacia depende del modelo base y de la tarea; también recomendó evaluación humana para evitar conclusiones engañosas basadas solo en métricas automáticas. Sus resultados corresponden a los modelos y escenarios examinados.
Para una aplicación concreta, la comparación debe incluir preguntas sobre documentos vigentes y antiguos, casos sin respuesta y usuarios con permisos diferentes. Conviene medir por separado si se recuperó el fragmento adecuado, si la respuesta lo interpretó correctamente, si la cita sostiene la afirmación y si se cumplió el formato. La revisión humana permite detectar una respuesta que parece correcta, pero usa una versión equivocada o pasa por alto una excepción.
La elección final también depende del tiempo y el coste por solicitud, además del trabajo necesario para mantener fuentes y ejemplos. Si el principal fallo es la falta de información vigente, la recuperación aborda esa causa. Si la información ya llega al modelo y falla la ejecución de una tarea estable, el ajuste fino puede aportar valor. La opción híbrida se justifica cuando ambos problemas aparecen en la misma aplicación y su mejora compensa la complejidad adicional.
Lee también:
Artículos relacionados


Orange España ya usa 1.000 agentes de IA: el reto pasa al control interno

Firecrawl capta 75 millones: quiere pagar por el conocimiento que usa la IA

Keenable capta 26 millones: buscar para agentes exige indexar 100.000 millones de páginas

Los 21 modelos abiertos cedieron: ajustar poco bastó para quitar sus defensas

OpenAI o Anthropic con ZDR: «cero datos» no cubre todos los productos
Suscríbete a nuestro boletín
Reciba las últimas noticias sobre Web3, IA y criptomonedas directamente en su bandeja de entrada.