aisuite 的核心功能是集成了多达11个知名大模型平台,并提供了一个统一的接口,使不同模型的调用变得极为简单。
何构建这个项目?
吴恩达表示构建应用时,发现与多个提供商集成非常麻烦。
aisuite 正是为了解决这个问题而诞生的,只需修改一个字符串(如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等),开发者便可轻松切换模型,不再需要在纷繁复杂的API中苦苦摸索。
项目地址:https://github.com/andrewyng/aisuite
统一接口设计,支持十余家模型平台
搭配 Streamlit 等工具,还能用 aisuite 构建的简单聊天UI界面。
Streamlit 是一个用于机器学习、数据可视化的 Python 框架,它能几行代码就构建出一个精美的在线 app 应用。
https://streamlit.io/
为了确保稳定性,aisuite 使用 HTTP 端点或 SDK 来与提供商进行调用。
安装简便
aisuite 的安装过程也被设计得十分简便,开发者只需准备Python环境和所需的API密钥,便可通过简单的命令安装框架。
首先需要通过 pip 安装 aisuite 框架,模型支持库可以在这一步进行选装。
pip install aisuite
或
pip install ‘aisuite[★]’
其中★处填入想安装的支持库名称,如带 Anthropic 支持的安装方式:pip install 'aisuite [anthropic]'
,或者填 all 安装所有库(外侧方括号和单引号不可省略),如pip install 'aisuite [all]'
。
此外还需要有对应模型的API密钥,可以设置为环境变量,也可以作为配置传递给 aisuite 中的构造函数。
例如,使用 aisuite 生成来自 GPT-4o 和 Claude-3-5-Sonnet 的聊天补全响应。
先设置 API 密钥:
export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"
使用 Python 客户端:
import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]
messages = [
{"role": "system", "content": "Respond in Pirate English."},
{"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create(
model=model,
messages=messages,
temperature=0.75
)
print(response.choices[0].message.content)
aisuite 目前主要关注于增强聊天功能,其他应用案例体系正逐步扩展。
根据开发团队的计划,未来将会增加更多的功能模块,例如函数调用等,这将进一步丰富 aisuite 的实用性。