How to use Azure OpenAI

文摘   科技   2023-09-16 14:55   新加坡  
微软每年差不多这个时间都会有一周时间来举办Hackathon
Hackathon这周员工可以暂时放下手上的工作,搞一些跟工作不是很相关的、自己感兴趣的东西。比如往年Hackathon有人做了给盲人使用的智能手杖、有人做了辅助开关、有人做了虚拟头像等等……
有些Hackathon项目也会得到公司的支持,演进成正式的产品
GPT出现之后,各种使用GPT的产品层出不穷,各种产品被GPT赋能,尤其是微软,差不多用GPT武装了所有的产品。感觉现在整个微软都在用,导致现在搞点儿啥玩意儿如果不用用GPT就差点儿意思。Hackathon更是如此
这周也搞了个相关的项目,过程中使用到了Azure OpenAI,分享给大家
Azure OpenAI服务提供对OpenAI各种模型的REST API访问,包括GPT-4、GPT-35-Turbo和嵌入模型系列。这些模型适应特定任务,包括但不限于内容生成、汇总、语义搜索和自然语言到代码的转换
与直接使用OpenAI相比,使用Azure OpenAI,客户可在运行与OpenAI相同的模型时获得Microsoft Azure的安全功能,提供专用网络、区域可用性和负责任AI内容筛选功能
定价:
调一次GPT-3.5-Turbo问一个问题:"What's your name?",token花费大概是这样的:
"usage": { "completion_tokens"30, "prompt_tokens"13, "total_tokens"43}
怎么创建一个Azure OpenAI service?
首先需要创建一个Azure account: 
https://azure.microsoft.com/en-us/free/ai-services
之后登录到portal.azure.com,搜索Azure OpenAI,点击创建(可能需要填一个问卷进行申请

之后按照步骤填写好订阅、地区、定价等级等内容,完成创建
进到创建好的Azure OpenAI, 点击模型部署,进入到Azure OpenAI Studio
然后创建一个新的Deployment

这样Azure OpenAI的创建就搞定了。拿到对应的key,endpoint,就可以用了

具体的使用细节可以参考:
https://learn.microsoft.com/en-us/azure/ai-services/openai/reference

使用起来确实很方便,而且功能比较强大,这就导致OpenAI可以结合的场景很多,甚至可以说是能够赋能各种场景
比如将GPT和语音结合到一起,能成为一个贴身外教,随时随地训练口语和听力,帮助纠正语法、发音错误等等。还能做科普,想了解各种门类的知识GPT都能帮助很快收集到相关资料……
很多人认为GPT能够带来又一次技术革命。确实是已经在改变一些场景了

程序员西风
分享个人经历和有趣的事物。