🍹 Insight Daily 🪺
Aitrainee | 公众号:AI进修生
Hi,这里是Aitrainee,欢迎阅读本期新文章。
许多人都想使用现在这些流行且强大的AI,但当他们看到需要付费的API,每百万个token要15美元时,很多人都选择退缩。
大家都想先试用一下,甚至是用一些免费额度,再决定是否付费。
目前有一些平台,比如Groq,提供某些模型的免费使用,但这些通常只是相对低性能的开源模型,如llama3.1 70B,如Claude这样的先进模型常常无法体验。
在我最近的一些文章中,我讨论了如何免费使用Claude Dev和Aider,有包括免费使用gpt4o-mini、Llama3.2 90B等等。今天我将向大家演示如何免费使用谷歌的Vertex AI 获取Claude 3.5 Sonet,以及它提供的其他模型。
首先,很多人可能会想,谷歌的Vertex AI是什么。实际上,谷歌的Vertex AI是谷歌版的Openrouter,简单来说,他们通过API提供一系列模型,比如Llama 3.1、Gemma、Gemini以及最好的Claude模型。
它提供300美元的免费信用额度。
没错,你可以轻松使用谷歌的Vertex AI,并用300美元的免费信用额度访问Claude 或 他们提供的其他模型,这真是太好了。而且,如果你添加了信用卡,你才能获得300美元的信用额度,否则你仍然可以获得150美元的信用额度,这也不错。
现在要设置它,只需点击“开始使用”选项,
它会带你到这个页面。
在这里,你会看到一些可用的聊天模型,但这里没有Claude3.5 模型。所以要添加它,你需要转到“模型花园”选项。
到达这里后,你会看到各种模型,只需点击“Anthropic”选项,然后选择Claude3.5 Sonet。现在点击“启用”按钮,它就会激活。一旦完成,我们基本上就设置好了。
接下来,我们需要安装谷歌云CLI,以便其他程序如Claude Dev和Aider可以使用谷歌的Vertex API。
要做到这一点,从这个页面下载谷歌云CLI工具并运行命令进行安装。我使用的是Mac,所以我只需下载这个文件,解压缩并运行这个命令来安装CLI工具,
但我们还没有完成。我们还需要使用我们的账户登录,所以你需要运行这个gcloud init命令,它会打开一个浏览器弹出窗口,要求你登录。
只需登录,一旦完成,我们就可以开始配置。
让我们先配置Aider。确保你安装了更新的Aider,要安装它,你可以简单地运行pip install Aider chat,或者可以在命令中添加upgrade以获得最新版本。
无论如何,要将Aider与Vertex配置,你需要添加两个环境变量:项目ID和位置。
你可以通过访问谷歌的Vertex AI轻松找到项目ID和区域,只需将这些信息输入到相应的变量中。
一旦完成,我们就可以开始使用它,只需运行这个命令并使用Claude模型名称,你就可以开始使用了。
现在你可以免费使用Aider和Claude,这真的很酷,不是吗?
让我们请求它创建一个简单的Todo应用,使用HTML、CSS和JavaScript。
等一下,它完成了,你可以看到它运行良好。这就是你如何将Aider与Vertex AI配置在一起的。
现在你也想将其与Claude Dev一起使用。要做到这一点,只需打开VS Code,确保你安装了更新的Claude Dev。
现在打开它,转到设置选项。在这里,你会找到Vertex AI选项,选择它。
它会要求提供相同的信息:项目ID和区域。只需检索这些信息并输入。一旦完成,选择云模型,我们就可以开始使用它。
让我们请求它创建一个简单的扫雷游戏,使用HTML、CSS和JavaScript。
它完成了,效果相当不错。
我的意思是,你还想要什么?它免费,效果很好,真是太棒了。我一直在使用它,和原版Claude没有区别。不过我想提到的一点是,我不建议为此使用真实信用额度。如果你想使用真实的信用额度,直接选择OpenAI或Anthropic作为提供者,因为它们支持提示缓存,这使得推理便宜90%。Vertex AI不支持这一点,所以这对于免费信用额度来说很好,但不适合付费使用,请记住这一点。
此外,OpenAI最近举行了他们的开发者日,并推出了新功能,如提示缓存。
如果你使用Claude Dev与GPT-4,它应该便宜得多。
你还可以在Vertex平台上使用Llama 3.1、Flux等模型,尽管它们会消耗你的信用额度。
总体而言,这真的很酷。
🌟希望这篇文章对你有帮助,感谢阅读!如果你喜欢这系列文章请以 点赞 / 分享 / 在看 的方式告诉我,以便我用来评估创作方向。
往期推荐
[1] github:https://github.com/khoj-ai/khoj
[2] https://console.cloud.google.com/welcome?project=upbeat-circlet-437512-k7
知音难求,自我修炼亦艰
抓住前沿技术的机遇,与我们一起成为创新的超级个体
(把握AIGC时代的个人力量)
点这里👇关注我,记得标星哦~