El prototipo se prueba con cinco documentos limpios y diez preguntas escritas por quien lo construyó. En producción hay tres mil documentos, dos versiones del mismo procedimiento, PDF escaneados, tablas, un glosario interno que nadie escribió y usuarios que preguntan como hablan.
Ahí es donde aparecen los fallos de verdad: el sistema trae el fragmento equivocado y responde con aplomo, no encuentra nada porque el usuario usó la palabra que no está en el documento, mezcla la política vieja con la nueva, o contesta en español citando un texto en inglés que no ha entendido bien.
El motor de la plataforma que cofundé y opero es exactamente esto, en un dominio que no perdona: recuperar el conocimiento correcto para apoyar una decisión clínica, en español, inglés y portugués.
RAG es buscar el fragmento relevante de tus documentos y dárselo al modelo para que responda con él, en vez de meter tu conocimiento dentro del modelo. Es muchísimo más barato, se actualiza al instante cuando cambias un documento y permite citar la fuente, que en un entorno profesional suele ser innegociable.
No hay mínimo: con veinte bien elegidos se resuelven muchos casos internos, y el sistema escala a decenas de miles. Lo decisivo no es el volumen sino la calidad; documentación contradictoria produce respuestas contradictorias y eso no lo arregla la tecnología.
Del todo no, pero se reduce mucho: obligar a que cada afirmación se apoye en un fragmento citado, permitir la abstención cuando la recuperación es pobre, y medirlo con una batería que detecte regresiones.
Es de los puntos donde más sistemas fallan y se resuelve con embeddings multilingües y búsqueda híbrida. Lo he montado en producción con tres idiomas.
Sobre un corpus acotado, dos o tres semanas hasta tenerlo respondiendo y evaluado. Lo que alarga los proyectos casi nunca es la IA: son los permisos de acceso y decidir qué versión de cada documento es la buena.
Cuéntame qué documentos son, quién los consulta y qué preguntan. Te digo si RAG es la respuesta, qué haría falta y cuánto llevaría.