ClaudeDev(已升级):Ollama、Groq全面支持!轻松集成AI工作流

科技   2024-09-06 22:02   湖南  

🍹 Insight Daily 🪺

Aitrainee | 公众号:AI进修生

Hi,这里是Aitrainee,欢迎阅读本期新文章。

终于,Claude Dev 现在支持 Ollama 了。没错,我没有开玩笑,Claude Dev 现在已经添加了 Ollama 支持,我们可以使用 Claude Dev 的所有功能并与本地 Ollama 模型一起使用,这非常棒。

另外还有一些其他很酷的更新。首先让我告诉你关于新版本的具体发布内容和更改。

在我前面的文章说过,添加了始终允许读取操作的支持,用户可以通过切换开关始终允许 Claude 读取文件并查看目录而无需每次都进行批准。此外,这个版本还实现了滑动窗口上下文管理,可以在任务超过200k tokens时继续运行。

接下来的版本中,新增了搜索文件工具,可以让 Claude 在项目中进行正则表达式搜索,使得代码重构更加容易。

然后,后续版本添加了对 PDF 和 doc 文件的读取支持,这也非常酷。再接下来的版本中,新增了代码差异功能,这意味着当 Claude 编辑或创建文件时,你现在可以在接受更改之前修改它的更改,这也非常棒。

再接下来的版本中,新增了终端模拟器,这基本上意味着当 Claude 运行命令时,你现在可以直接在内联终端中输入或编辑。

而现在,最新的发布版本已经增加了对 Ollama 模型的支持,以及任何类型的 OpenAI 兼容 API 的支持。

发布说明中提到,这个版本增加了对 OpenAI 兼容 API 的支持,因此现在你可以使用你想要的任何模型,无论是 Ollama、Anthropic、OpenAI、OpenRouter 或其他模型。

现在让我向你展示一下 Claude Dev 中的具体新更新。

首先,打开 VS Code 并更新你的 Claude Dev 插件,更新后打开 Claude Dev。

现在让我先展示如何使用 Ollama。要配置 Ollama,只需点击设置按钮,点击后你会看到这个界面。在下拉菜单中,你可以看到一些新的选项,一个是 OpenAI 兼容 API 选项,另一个是 Ollama 选项。

OpenAI 兼容 API 选项将允许你输入任何 OpenAI 兼容的端点并使用它,例如,如果你想使用像 Groq 这样的服务,你只需输入 Groq 的基本 URL、API 密钥、模型名称和其他详细信息,这非常棒。

Ollama 选项非常简单,你只需选择它,在这里输入模型名称,然后你就可以开始使用 Ollama 模型了。

我更希望它有一个 Ollama 模型的下拉菜单,而不是让我自己输入模型名称,因为 Ollama 确实有一个列出模型的端点,这可能会在未来的版本中添加。

无论如何,现在让我先展示如何通过 OpenAI 兼容 API 选项使用 Groq。Groq 的免费版可以在有限的使用率内免费使用,所以只需在 Groq 注册并获取一个 API 密钥。获取密钥后,回到 Claude Dev,转到设置并选择 OpenAI 兼容 API 选项。

在 URL 选项中输入 Groq API 基本 URL,输入你的 API 密钥,之后你需要输入你想使用的模型名称,他们有很多模型,我喜欢使用 Llama 3.1 70b 模型,所以只需像这样输入它。完成后点击完成按钮,现在我们可以开始使用它了。

现在我会让它创建一个简单的待办事项应用,让我们在这里请求它创建这个应用并发送请求。好的,现在它正在处理,稍等一下。它完成了,正在请求权限,我们批准所有权限。

这里是 Shell 命令,让我们运行它,你可以看到这是我们想要的应用,效果很好。这样就很酷了,现在你可以免费使用像 Groq 这样的服务,这非常棒。

我将使用 Llama 3.1 18b 模型,所以选择它并复制这个安装命令。现在在你的终端中粘贴这个命令,模型就会被安装。

安装完成后,你会在终端中看到这个聊天界面,只需发送一条消息并检查它是否工作。

现在回到 Claude Dev,转到设置选项,选择 Ollama 选项,并输入模型名称,在这种情况下是 Llama 3.1 模型。输入完成后点击完成按钮,现在我们可以开始使用它了。

让我们请求它做一些类似 Groq 测试的事情,这次让它创建一个食物卡路里追踪应用并发送请求。现在它正在生成,稍等一下。完成了,正如你所看到的,它再次请求批准,所以我们再次批准。

现在这是最终的 Shell 命令,你也可以查看它生成的代码以及这里的代码差异,这非常棒。让我们运行它看看。好的,这看起来不错,效果也很好。

除此之外,让我还展示一下新版本中添加的其他功能。一个主要功能是读取 PDF 和 doc 文件的功能,基本上现在你可以将任务或其他类似内容记录在文档或 PDF 中,然后你可以让 Claude Dev 执行任务,例如将 ABC doc 文件转换为网站之类的操作,它会读取文件内容并进行转换,这非常酷。

除此之外,你还可以使用终端模拟器,这意味着当它生成一个 Shell 命令时,你可以像在文本框中一样轻松地进行修改并运行它,这也不错,而且还能为 Claude Dev 提供正确的上下文以获得更好的后续响应。

还新增了任务历史搜索栏,你可以在其中搜索你可能已经完成的多个任务。你现在还可以通过 Claude 显示的代码差异在代码生成之前更改生成的代码,这也非常酷。

这些就是主要的更改内容,我觉得非常棒。有了 Ollama 支持和新功能的加入,它只会变得越来越强大。所以赶紧开始使用 Ollama 吧。总体来说非常酷。

🌟希望这篇文章对你有帮助,感谢阅读!如果你喜欢这系列文章请以 点赞 / 分享 / 在看 的方式告诉我,以便我用来评估创作方向。

ClaudeDev:全新代码Agent可以在 VS Code 中生成应用程序!(一键创建、修改、运行项目)

时序+大模型火了!67篇研究洞察,ICLR等顶会热议新方向(LLM Prompt、Agent、视觉)

Aider (升级版):最强AI编程助手新版发布!更强大、支持Shell命令、剪切和缓存!

每日AI:Vercel v0 太棒了!!MLE-Agent、专注RAG与工具调用优化的Command R+

Composio神器登场!为AI代理提供100+集成工具,代码、搜索、API全搞定

知音难求,自我修炼亦艰

抓住前沿技术的机遇,与我们一起成为创新的超级个体

(把握AIGC时代的个人力量)

点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 

AI进修生
AI算法工程师 / Prompt工程师 / ROS机器人开发者 | 分享AI动态与算法应用资讯,提升技术效率。
 最新文章