重磅:ChatGPT 和 Whisper 开放API 来了

文摘   2023-03-02 10:09   北京  

开发人员现在可以通过我们的API将ChatGPT和Whisper模型集成到他们的应用程序和产品中。

ChatGPT 和 Whisper 模型现已在我们的 API 上提供,使开发人员能够访问尖端语言(不仅仅是聊天!)和语音转文本功能。通过一系列系统范围的优化,自 90 月以来,我们已经实现了 ChatGPT 成本降低 2%;我们现在将这些节省的费用转嫁给 API 用户。开发人员现在可以在 API 中使用我们的开源 Whisper 大型 v<> 模型,并获得更快、更具成本效益的结果。ChatGPT API 用户可以期待持续的模型改进,以及选择专用容量以更深入地控制模型的选项。我们还仔细听取了开发人员的反馈,并完善了我们的 API 服务条款,以更好地满足他们的需求。

ChatGPT 和 Whisper API 的早期用户


Snapchat的创建者本周为Snapchat+推出了My AI。实验性功能在 ChatGPT API 上运行。我的人工智能为Snapchatters提供了一个友好的,可定制的聊天机器人,触手可及,提供建议,甚至可以在几秒钟内为朋友写一个俳句。在 Snapchat 上,通信和消息传递是日常行为,每月有 750.<> 亿 Snapchatter 用户。


Q-Chat是一个全球学习平台,有超过 60 万学生使用它来学习、练习和掌握他们正在学习的任何内容。Quizlet在过去三年中一直与OpenAI合作,在多个用例中利用GPT-3,包括词汇学习和练习测试。随着ChatGPT API的推出,Quizlet推出了Q-Chat,这是一个完全自适应的人工智能导师,通过有趣的聊天体验提供的相关学习材料,让学生参与自适应问题。

Instacart正在增强 Instacart 应用程序,使客户能够询问食物并获得鼓舞人心的、可购物的答案。这使用 ChatGPT 以及 Instacart 自己的 AI 和来自其 75,000+ 零售合作伙伴商店位置的产品数据来帮助客户发现开放式购物目标的想法,例如“我如何制作美味的鱼炸玉米饼?”或“我的孩子什么是健康的午餐?”Instacart计划在今年晚些时候推出“Ask Instacart”。

Shopify的消费者应用程序,被100亿购物者用来查找和参与他们喜欢的产品和品牌。ChatGPT API用于为Shop的新购物助手提供支持。当购物者搜索产品时,购物助理会根据他们的要求做出个性化的推荐。Shop的新型人工智能购物助手将通过扫描数百万种产品来简化应用内购物,以快速找到买家正在寻找的东西,或帮助他们发现新的东西。

Speak是一款人工智能驱动的语言学习应用程序,专注于构建口语流利的最佳途径。它们是韩国增长最快的英语应用程序,并且已经在使用Whisper API为新的AI配套产品提供支持,并迅速将其推向全球其他地区。Whisper为各个级别的语言学习者提供人类水平的准确性,解锁了真正的开放式对话练习和高度准确的反馈。

ChatGPT API

型号:我们今天发布的 ChatGPT 模型系列与 ChatGPT 产品中使用的模型相同。它的价格为每 0.002k 代币 1 美元,比我们现有的 GPT-10 型号便宜 3.5 倍。对于许多非聊天用例,这也是我们的最佳模型 - 我们已经看到早期测试人员从 迁移到 时,只需要对他们的提示进行少量调整。gpt-3.5-turbotext-davinci-003gpt-3.5-turbo


API:传统上,GPT 模型使用非结构化文本,这些文本以一系列“令牌”的形式表示给模型。相反,ChatGPT 模型使用一系列消息和元数据。(对于好奇的人:在引擎盖下,输入仍然作为一系列“令牌”呈现给模型供模型使用;模型使用的原始格式是一种称为聊天标记语言(“聊天ML”)。

我们创建了一个新的端点来与我们的 ChatGPT 模型进行交互:

ChatGPT 升级

我们不断改进我们的 ChatGPT 模型,并希望将这些增强功能也提供给开发人员。使用该gpt-3.5-turbo模型的开发人员将始终获得我们推荐的稳定模型,同时仍然可以灵活地选择特定模型版本。例如,今天我们发布了gpt-3.5-turbo-0301,它至少会在 6 月 1 日之前得到支持,我们将gpt-3.5-turbo在 4 月更新到新的稳定版本。模型页面将提供转换更新。

专用实例

我们现在还为希望更深入控制特定型号版本和系统性能的用户提供专用实例。默认情况下,请求在与其他用户共享的计算基础设施上运行,其他用户按请求付费。我们的 API 在 Azure 上运行,使用专用实例,开发人员将按时间段支付分配计算基础设施的费用,这些基础设施是为满足他们的请求而保留的。

开发人员可以完全控制实例的负载(更高的负载会提高吞吐量,但会使每个请求变慢)、启用诸如更长的上下文限制等功能的选项,以及固定模型快照的能力。

对于每天运行超过 4.5 亿令牌的开发人员来说,专用实例具有经济意义。此外,它还可以根据硬件性能直接优化开发人员的工作负载,这可以显着降低与共享基础设施相关的成本。

Whisper API

Whisper是 2022 年 9 月开源的语音转文本模型,已获得开发者社区的极大赞誉,但也很难运行。我们现在已经通过我们的 API 提供了 large-v2 模型,它提供了方便的按需访问,价格为 0.006 美元/分钟。此外,与其他服务相比,我们高度优化的服务堆栈可确保更快的性能。

Whisper API 可通过我们的transcriptions(以源语言转录)或translations(转录成英语)端点使用,并接受多种格式(m4a、mp3、mp4、mpeg、mpga、wav、webm):

开发者焦点

在过去六个月中,我们一直在收集 API 客户的反馈,以了解我们如何才能更好地为他们服务。我们进行了具体的更改,例如:

  • 通过 API 提交的数据不再用于服务改进(包括模型训练),除非组织选择加入

  • 为 API 用户实施默认的 30 天数据保留政策,并根据用户需求提供更严格的保留选项。

  • 删除我们的发布前审查(通过改进我们的自动监控解锁)

  • 改进开发人员文档

  • 简化我们的服务条款和使用政策,包括有关数据所有权的条款:用户拥有模型的输入和输出。

在过去的两个月里,我们的正常运行时间没有达到我们自己和用户的期望。我们的工程团队现在的首要任务是生产用例的稳定性——我们知道,确保 AI 造福全人类需要成为可靠的服务提供商。在接下来的几个月里,请让我们对改进的正常运行时间负责!

我们相信人工智能可以为每个人提供难以置信的机会和经济赋权,而实现这一目标的最佳方式是让每个人都可以利用它进行建设。我们希望我们今天宣布的更改将带来众多应用程序,每个人都可以从中受益。开始构建由 ChatGPT 和 Whisper 提供支持的下一代应用程序。



子非AI
子非AI,焉知AI之乐:分享AI的有趣应用和创新案例,让你了解AI的乐趣。
 最新文章