Los modelos de lenguaje no conocen los datos privados de su organización. RAG lo resuelve recuperando documentos relevantes y proporcionándolos al modelo en el momento de la pregunta.
Cómo funciona
Los documentos se dividen en fragmentos, se convierten en vectores y se indexan. En la pregunta, se recuperan los fragmentos más relevantes y el modelo responde fundamentado en ellos, citando las fuentes.
Es más fiable que ajustar un modelo cuando la base de conocimiento cambia con frecuencia.