REFRAG: Repensando a Geração Aumentada por Recuperação (RAG) para LLMs Mais Rápidos e Eficientes
Aplicações de Modelos de Linguagem Grandes (LLMs) que utilizam conhecimento externo, como a Geração Aumentada por Recuperação (RAG), revolucionaram a forma como interagimos com a informação, fornecendo respostas aprimoradas em conversas multi-turn e sistemas de agentes. No entanto, o uso de entradas de contexto longas — uma necessidade para aprimorar o RAG — traz um […]