Retrieval-Augmented Generation — архитектура, где языковая модель отвечает по вашим данным, retrieval{"-"}я релевантный контекст из vector database до генерации.
RAG (Retrieval-Augmented Generation) система комбинирует языковую модель с retrieval-слоем над вашими приватными данными. Когда пользователь задаёт вопрос, система сначала retrieve{"-"}т самые релевантные chunks контекста из vector database (по семантической схожести над embeddings), потом собирает эти chunks в промпт модели, потом генерит ответ, заземлённый на retrieved контенте. RAG — стандартная архитектура для use cases "задавать вопросы по нашей базе знаний".
Большинство enterprise AI use cases — внутренние базы знаний, customer support по документации, Q&A в регулируемых индустриях — требуют ответов, заземлённых на приватных данных, на которых модель никогда не обучалась. Fine-tuning дорог и замораживает данные; RAG держит данные live и external. Сложность в том, что production-grade RAG гораздо сложнее туториала — стратегия чанкинга, выбор embedding-модели, тюнинг top-k и evaluation-дисциплина — всё решает, работает ли система реально.
Production RAG — больше инженерная проблема, чем проблема модели. По Skopa engagements, разница между туториал-grade RAG и тем, что держится на масштабе, сводится к: chunk size и overlap откалиброваны против eval-набора (не дефолтные значения), embedding model выбрана под домен (не только популярная), reranking после retrieval, observability над тем, какой контекст модель реально использовала, и rigorous quality measurement на реальных пользовательских вопросах. Мы регулярно видим top-k снижение с 10 до 3 с улучшением качества и 70% снижением стоимости одновременно.