2024 年 11 月 26 日，斯坦福大学计算机科学教授，前百度 AI 集团/谷歌大脑负责人`@吴恩达` 开源了一个项目[1] aisuite，该项目简化了大模型 API 的调用，只需一个接口即可调用 OpenAI 等众多大模型。
网友在评论区表示这个库很好
aisuite 简介
aisuite[2] 让开发者通过标准化接口轻松使用多个大语言模型(LLM)。aisuite 的接口设计类似于 OpenAI，使开发者能够轻松与最流行的 LLM 交互并比较其结果。它是围绕 Python 客户端库的一层轻量封装，允许开发者在无需更改代码的情况下，灵活切换和测试不同 LLM 提供商的响应。目前，该库主要专注于对话补全功能，我们计划在近期内扩展到更多使用场景。大佬开源的项目 Star 蹭蹭的涨哦📈，该项目当前在 Github 拥有 2.9k Star！
当前支持的提供商
为确保稳定性，aisuite 使用 HTTP 端点或 SDK 调用提供商服务。
OpenAI Anthropic Azure Google AWS Groq Mistral HuggingFace Ollama
安装
您可以仅安装 aisuite 基础包，也可以同时安装某个提供商的包。
仅安装基础包（不包含提供商的 SDK）
pip install aisuite
安装 aisuite 及 Anthropic 的库
pip install 'aisuite[anthropic]'
安装所有提供商相关的库
pip install 'aisuite[all]'
开始使用前，您需要获取目标提供商的 API 密钥。您需要在安装 aisuite 时，额外安装对应提供商的库。
API 密钥可以通过环境变量设置，或者通过配置参数传递给 aisuite 的客户端构造函数。您可以使用如 python-dotenv 或 direnv 等工具手动设置环境变量。请查看 examples 文件夹以了解用法示例。
示例
以下示例展示了如何使用 aisuite 从 GPT-4o 和 Claude-3-5-sonnet 生成对话补全的响应。
设置 API 密钥
export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"
使用 Python 客户端
import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]
messages = [
{"role": "system", "content": "Respond in Pirate English."},
{"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create(
model=model,
messages=messages,
temperature=0.75
)
print(response.choices[0].message.content)
注意：create() 方法中的 model 参数格式为 <provider>:<model-name>。aisuite 会根据 provider 值调用相应提供商的 API 并传递正确的参数。提供商值的列表可参考目录 aisuite/providers/。支持的提供商文件格式为该目录下以
如需更多示例，请查阅 examples[3] 目录，其中包含多个可运行的 notebook 以便您试验接口。
授权协议
aisuite 在 MIT 许可下发布。您可以在商业和非商业用途下自由使用、修改和分发代码。
感兴趣的读者朋友们可以尝试下哦！
斯坦福大学计算机科学教授，前百度 AI 集团/谷歌大脑负责人@吴恩达 开源了一个项目: https://x.com/AndrewYNg/status/1861085482526105842
aisuite: https://github.com/andrewyng/aisuite
[3]examples: https://github.com/andrewyng/aisuite/tree/main/examples
近期文章推荐
扫描以下二维码加小编微信，备注 “ai”，一起交流 AI 技术！
