吴恩达开源大模型套件 aisuite:一个接口,可调用11个模型平台

文摘   2024-11-26 14:20   广东  
刚刚,吴恩达宣布,推出新的开源大模型套件 aisuite,不到半天就斩获了1200+星标。

aisuite 的核心功能是集成了多达11个知名大模型平台,并提供了一个统一的接口,使不同模型的调用变得极为简单

何构建这个项目?

吴恩达表示构建应用时,发现与多个提供商集成非常麻烦。

aisuite 正是为了解决这个问题而诞生的,只需修改一个字符串(如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等),开发者便可轻松切换模型,不再需要在纷繁复杂的API中苦苦摸索

项目地址:https://github.com/andrewyng/aisuite

01

统一接口设计,支持十余家模型平台

目前,aisuite 支持包括 OpenAI、Anthropic 在内的 11 个模型平台,实际上还可以通过 HuggingFace 等平台进一步拓展使用模型的范围。

搭配 Streamlit 等工具,还能用 aisuite 构建的简单聊天UI界面。

Streamlit 是一个用于机器学习、数据可视化的 Python 框架,它能几行代码就构建出一个精美的在线 app 应用。

https://streamlit.io/

为了确保稳定性,aisuite 使用 HTTP 端点或 SDK 来与提供商进行调用。

02

安装简便

aisuite 的安装过程也被设计得十分简便,开发者只需准备Python环境和所需的API密钥,便可通过简单的命令安装框架。

首先需要通过 pip 安装 aisuite 框架,模型支持库可以在这一步进行选装。

pip install aisuite
Copy

pip install ‘aisuite[★]’
Copy

其中★处填入想安装的支持库名称,如带 Anthropic 支持的安装方式:pip install 'aisuite [anthropic]',或者填 all 安装所有库(外侧方括号和单引号不可省略),如pip install 'aisuite [all]'

此外还需要有对应模型的API密钥,可以设置为环境变量,也可以作为配置传递给 aisuite 中的构造函数。

例如,使用 aisuite 生成来自 GPT-4o 和 Claude-3-5-Sonnet 的聊天补全响应。

先设置 API 密钥:

export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"
Copy

使用 Python 客户端:

import aisuite as ai
client = ai.Client()

models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]

messages = [
   {"role": "system", "content": "Respond in Pirate English."},
   {"role": "user", "content": "Tell me a joke."},
]

for model in models:
   response = client.chat.completions.create(
       model=model,
       messages=messages,
       temperature=0.75
   )
   print(response.choices[0].message.content)
Copy

aisuite 目前主要关注于增强聊天功能,其他应用案例体系正逐步扩展。

根据开发团队的计划,未来将会增加更多的功能模块,例如函数调用等,这将进一步丰富 aisuite 的实用性。

HsuDan
拥抱AI技术,分享人工智能、机器学习、数据分析等多个领域的优质资讯、学习资源、实践案例、开源项目及开发工具。
 最新文章