5个开源的LLM构建RAG的方案

科技   2025-01-03 00:00   浙江  

1. AutoRAG

① 一键优化 RAG 流程:自动评估多种 RAG 模块,找到最适合你数据的方案。
② 简单易用的配置:通过 YAML 文件快速设置解析、切块、QA 数据生成和优化流程。
③ 多功能支持:支持解析 PDF、分块文本数据,生成 QA 数据集,以及全面的指标分析和优化。
④ 跨平台部署:轻松运行本地代码、API 服务或 Web 界面。

访问:github.com/Marker-Inc-Korea/AutoRAG

2. R2R

① 多模态数据导入:支持 .txt、.pdf、.json、.png、.mp3 等格式解析。
② 混合搜索:结合语义和关键词搜索,提升检索相关性。
③ 知识图谱 :自动提取实体和关系,构建知识图谱并聚类分析。GraphRAG:基于知识图谱进行社区聚类和总结,提供更深入的洞察。
④ 开源仪表盘:基于 React+Next.js 构建的 GUI,轻松交互与管理。

访问:github.com/SciPhi-AI/R2R

3. n8n,自托管AI工作流快速启动套件

① 自托管 AI 工作流快速启动套件!
② 低代码平台 n8n:支持 400+ 集成和高级 AI 节点,轻松构建工作流。
③ 支持多种 AI 模板和教程,从入门到进阶。

访问:github.com/n8n-io/self-hosted-ai-starter-kit

4. Cognita,模块化,生产级的RAG框架

① 将 Langchain/LlamaIndex 与生产需求结合,支持模块化、可扩展的 API 驱动环境。
② 提供自带 UI 的本地或生产环境,支持增量索引,适配多种文档格式和数据库。
③ 轻松构建从数据索引到查询服务的完整 RAG 流程,快速实现高效知识管理与问答系统。
④ 多文档检索支持:相似性搜索、文档重排序、多模态解析(音频/视频)。

访问:github.com/truefoundry/cognita

5. LLMWare,企业级RAG框架

① 模块化 RAG 管道:将知识源与生成式 AI 模型无缝连接,支持问答、分类、摘要等多种任务。
② 轻量化模型库:50+ 小型、高效模型,专为企业流程自动化优化,适配本地部署。
③ 多数据库支持:轻松集成 Milvus、Qdrant、Postgres、ChromaDB 等 10 种向量数据库,以及 MongoDB、SQLite 等文本存储。
④ 强大的开发工具:内置 Prompt 设计、混合检索、多模态解析,支持增量索引和 API 驱动操作。

访问:github.com/llmware-ai/llmware




欢迎支持我的知识星球(NLP工程化):Dify源码剖析及答疑,Dify对话系统源码,电子书籍报告下载,公众号所有付费资料。若微信群二维码过期,则加微信buxingtianxia21进群。

NLP工程化知识星球

NLP工程化资料群

NLP工程化
专注于对话系统领域的技术分享,重点写《Dify应用操作和源码剖析》专栏。
 最新文章