构建一个属于自己的私人AI
文摘
2024-10-30 20:39
广东
![]()
得益于开源精神，世界上已经有很多开源的大语言模型，我们可以通过开源的大语言模型部署属于自己的专属AI，大语言模型（large language models）简称LLM，是使现代人工智能拥有智能的一种技术。开源的大语言模型可以理解为别人已经设计好的软件，你只要下载下来在自己的电脑上运行，就能得到一个属于自己的人工智能，前提是你的电脑配置需要满足最小要求，不同的大模型对于电脑配置的要求不一样。目前世界上开源的大语言模型有很多，这里就不一一列举。LLaMa系列的开源大语言模型比较有名，我们来部署LLaMa 3吧。LLaMa是由Meta （原Facebook）开发的开源大模型系列，包括LLaMa 3 8B和LLaMa 3 70B，被认为是同体量下性能最好的大模型。使用ollama来部署和使用LLama，这是一种非常简单高效的方法。我们只需要进入其官网下载，运行ollama后就能通过一行命令部署指定的开源模型了。下载ollama，进入其官网的下载页面 [ 网址在评论区置顶处 ]，下载后安装并运行，装软件的过程很简单，就不详细介绍了。![]()
选择你的系统平台下载对应的版本
打开命令行，运行命令 ollama run llama3首次运行会下载你指定的开源大语言模型，等待下载完成。
![]()
输入文本和LLama3模型交流，你想说什么就说什么，本地运行的大模型不需要网络也不受监控，极大地保护你的隐私。
![]()
这个过程就是ollama去帮我们部署运行大模型，而且ollama还是我们和大语言模型之间的桥梁，帮助我们和大模型进行交流，这个过程不需要任何网络，全是在我们本地的计算机完成的。
![]()
