▲ 点击上方蓝字关注深蓝信息公众号
本文约 1200 字
二、测试工具
工具名称 | 核心价值 | HR收益点 |
Ollama | 本地大模型运行框架 | 无需网络即可使用AI能力 |
DeepSeek | 高效的中文大模型 | 准确理解自然语言提问与回复 |
BGE-M3 | 多语言嵌入模型 | 精准匹配问题与知识库内容 |
CherryStudio | 开源知识库管理平台,支持本地部署 | 完全掌控数据,可视化操作界面 |
三、实验步骤
步骤1. 请参考如何让DeepSeek在自己电脑上不联网也能工作?一文完成Ollama和DeepSeek的本地安装。
步骤2. 通过Ollama中下载BGE-M3,在终端或命令提示符下直接输入如下的命令行即可: ollama pull bge-m3
步骤3. 安装CherryStudio
访问网址:https://cherry-ai.com/ 下载对应操作系统的安装包进行安装后运行。
步骤4. 在CherryStudio中设置连接Ollama中的模型
参考下图,点击左下角的设置按钮,进入设置页面,选中Ollama,打开右上角的开关,在API地址中保持默认设置,然后在模型板块中添加deepseek和bge-m3。
添加deepseek和bge-m3时,使用的模型名就是在步骤2中提到的运行ollama list后显示的名称。
步骤5. 在CherryStudio中添加知识库
如下图所示,选中知识库菜单后,添加建立一个知识库,并上传相关的文档。在示例中我上传了一个模拟员工手册的PDF文件,等待一会在文件右侧显示绿色勾之后,说明知识库已经解读成功。
注:添加知识库时要选择bge-m3嵌入模型。
步骤6. 开始对话
按照下图所示,选择对话图标后,就可以开始对话了,记得在对话框的下方点击相应的图标选择Ollama中的DeepSeek模型和相应的知识库。
以上就是今天的分享,大家不妨有空的时候亲自试一试。
PS:由于我电脑配置的限制,因此本地没有使用参数最大的DeepSeek模型,在性能和回答精确度上可能会有一定的影响。
解决方案就是可以在CherryStudio中直接配置DeepSeek的API Key,联网调用DeepSeek最新模型,试了一下效果非常好,我将另外写一篇文章分享,欢迎持续关注。
== End ==
也欢迎大家参加如下我2月4日年初七的讲书直播活动,与大家一起探讨AIGC时代人力资源管理的未来趋势。