Semantic Kernel概览

文摘   2024-06-04 07:39   日本  

随着Semantic Kernel功能的使用,和版本功能的稳定,是时候梳理一下SK的功能了。本系列文章会以C#作为主要的案例分享语言,尽量做到“概念解释简明易懂,示例代码清晰简洁”。

为了简单说明,之后Semantic Kernel都简写为SK。

SK是一个软件开发工具包(SDK),它将大型语言模型(LLMs)如OpenAI、Azure OpenAI和Hugging Face与传统编程语言如C#、Python和Java集成在一起。SK通过允许你定义插件,并可以用几行代码将这些插件串联起来,从而实现这种集成。

然而,使SK独特的是它能够自动用人工智能(AI)来协调这些插件(plugins )。使用SK的计划器(planners),你可以请求一个大型语言模型生成一个实现用户独特目标的计划。然后,Semantic Kernel会为用户执行这个计划。

说一下我对SK的感受:首先是SK同时支持Python,C#,Java三种语言,虽然每种语言的SDK发版时间有时间差,但功能基本上都是能对齐的,为相同解决方案下的不同项目提供了一致的API。另一个好处是可以共用一些基础设施或平台,比如日志收集,监控指标等。

再有就是SK与是LLM无关的,目前SK支持了主流的LLM,有的还在支持和完善的路上,相信随着LLM和SK的稳定和成熟,SK能很好地拟合LLM之间的使用差异,从而提升开发效率和提升LLM切换的灵活性,为LLM聚合网关提供了先天条件。


【SmartFill】是本人开发的一款Chrome插件式智能输入小工具,欢迎试用:https://tinyurl.com/222ajrfd

桂迹
分享原创,记录痕迹!
 最新文章