( Contacto )
RAG (Retrieval-Augmented Generation)
Tambien: Generacion aumentada por recuperacion, Retrieval augmented generation
En una frase
RAG conecta un modelo de lenguaje a una fuente de datos externa (tus documentos, tu base de datos) para que responda con informacion concreta y verificable, en vez de solo con lo que memorizo durante el entrenamiento.
RAG (generacion aumentada por recuperacion) combina dos pasos: primero recupera los fragmentos mas relevantes de una fuente de datos que tu controlas, y despues se los pasa al modelo de lenguaje para que redacte la respuesta apoyandose en ellos. Asi el modelo responde sobre tu informacion (un manual, un catalogo, una base de conocimiento) y puede citar de donde sale cada dato, algo que un modelo por si solo no garantiza.
¿Por que usar RAG en lugar de reentrenar el modelo?
Porque es mas barato, mas rapido de actualizar y mas transparente. Con RAG cambias la respuesta simplemente actualizando los documentos, sin reentrenar nada, y puedes mostrar la fuente de cada afirmacion. Reentrenar (fine-tuning) tiene sentido para el estilo o el formato, no para inyectar conocimiento que cambia a menudo.
¿RAG elimina las alucinaciones?
Las reduce mucho, pero no las elimina del todo. Si la fuente no contiene la respuesta, o la recuperacion trae el fragmento equivocado, el modelo todavia puede inventar. Por eso el diseno del sistema de recuperacion y la verificacion de las citas importan tanto como el modelo.
Datos
- 2020ano en que Lewis et al. (Facebook AI Research) introdujeron RAG en su articulo original. (Lewis et al., arXiv 2005.11401)