请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册

QQ登录

只需一步,快速开始

longge

注册会员

5

主题

12

帖子

57

积分

注册会员

积分
57
最新发帖

[已处理] 本地知识库

longge
注册会员   /  发表于:2025-11-28 20:04  /   查看:58  /  回复:1
1金币
有没有本地部署大模型,然后本地建立知识库的具体操作流程,可对接MYSQL数据库

最佳答案

查看完整内容

1、本地部署模型,您可以参考一些博客去处理,比如用 Ollama 去私有化部署模型 本地部署大模型:Ollama 和 vLLM • Chang Luo 2、知识库的搭建,涉及到向量数据库,数据切片,向量检索等问题,您可以参考下面方案: GitHub - GrapeCity-AI/gc-qa-rag: A RAG (Retrieval-Augmented Generation) solution Based on Advanced Pre-generated QA Pairs. 基于高级 QA 问答对预生成的 RAG 知识库解决方案 也可以参考这个: AI智 ...

1 个回复

最佳答案
最佳答案
Simon.Sun活字格认证 Wyn认证
超级版主   /  发表于:2025-11-28 20:04:47
来自 2#
1、本地部署模型,您可以参考一些博客去处理,比如用 Ollama 去私有化部署模型
本地部署大模型:Ollama 和 vLLM • Chang Luo
2、知识库的搭建,涉及到向量数据库,数据切片,向量检索等问题,您可以参考下面方案:
GitHub - GrapeCity-AI/gc-qa-rag: A RAG (Retrieval-Augmented Generation) solution Based on Advanced Pre-generated QA Pairs. 基于高级 QA 问答对预生成的 RAG 知识库解决方案
也可以参考这个:
AI智能体示例:知识问答(RAG) - 葡萄城市场
3、和 MySQL 对接,取决您那边 AI 落地的具体场景。具体您可以借助 AI 对话框和 AI 助手命令去实现就可以了。AI 智能体的落地可以参考这个:
低代码构建企业级AI智能体(下) - 开发者学堂
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册
返回顶部