ChatGPT开放API,对手还怎么玩?
今天,ChatGPT 又一次让全世界为之兴奋。
OpenAI 正式宣布开放 ChatGPT 和 Whisper 两个模型的 API,API 版本的 ChatGPT 不仅功能更多、性能更强,而且还更便宜——相当于目前 GPT-3 模型价格打一折!
属于 AI 的潘多拉魔盒已经打开,可以预见未来会有越来越多应用建立在 ChatGPT 这个巨人的肩膀之上,请做好准备拥抱新的先进工具时代。
划重点:
ChatGPT 和 Whisper 模型现在可以在我们的 API 上使用,让开发者可以使用最先进的语言模型和语音转文字功能。
通过一系列系统范围内的优化,自 12 月以来,ChatGPT 的成本降低了 90%;我们现在将这些节省的成本传递给 API 用户。开发人员现在可以在 API 中使用我们的开源 Whisper large-v2 模型,获得更快、更具成本效益的结果。
ChatGPT API 用户可以持续获得的模型改进,并可以选择专用的服务器容量以获得对模型更深入的控制权。我们也仔细听取了开发人员的反馈,并完善了我们的 API 服务条款,以更好地满足他们的需求。
制作了 Snapchat 的 Snap Inc. 在本周推出了用于 Snapchat+ 的 My AI 功能,该实验功能正是基于 ChatGPT API 运行。
My AI 为用户提供了语气友好、个性化的聊天机器人,可以在用户用指尖输入之时提供建议,甚至可以在几秒钟之内为朋友写一个俳句。作为一个日常聊天通讯工具,Snapchat 每月有 7.5 亿个 Snapchat 用户。
Quizlet 是一个全球性的学习平台,有超过 6000 万学生使用它来学习、练习并掌握他们所学的东西。Quizlet 已经与 OpenAI 合作了三年,在业务中广泛应用了 GPT-3 模型,包括词汇学习和实践测试。
随着 ChatGPT API 的推出,Quizlet 引入了一个名为 Q-Chat 的个性化的人工智能导师,学生可以通过与它开展有趣的对话来针对性地学习知识。
Instacart 正在用 AI 为 Instacart 应用程序赋能,用户能够在这里询问与食品相关的问题,并获得灵感和购买建议。
Instacart 将 ChatGPT 与 Instacart 自己的人工智能以及来自 75000 多个零售合作商店的产品数据结合了起来,帮助客户找到购物的灵感,比如“我如何做出好吃的鱼肉玉米饼?”或者“什么可以作为我孩子的健康午餐?”Instacart 计划在今年晚些时候推出“Ask Instacart”。
Shopify 的消费者应用程序 Shop 被上亿的用户用来寻找他们喜爱的产品和品牌,而 ChatGPT API 的加入为 Shop 注入了全新的动力。
当顾客搜索商品时,购物助理会根据顾客的要求提供个性化的推荐。Shop 新推出的基于人工智能的购物助理将扫描数百万件商品,以快速找到买家想要的东西,或者帮助他们发现新的东西,从而简化 app 内的购物流程。
Speak 是由一个 AI 驱动的语言学习应用,专注于让人们的口语说得更流利。
Speak 是韩国增长最快的英语应用,目前正在用 Whisper API 来为一个新的 AI 口语伴侣产品提供动力,并会迅速将其推向全球其他地区。
Whisper 为各个级别的语言学习者都能提供与人类水平相当的准确性,带来真正的开放式对话练习和高度准确的对话反馈。
模型:我们今天发布的 ChatGPT 模型系列 gpt-3.5-turbo 与 ChatGPT 产品中使用的模型相同。
它的售价为每 1000 个 token 售 0.002 美元,是我们现有的 GPT-3.5 模型价格的十分之一。
对于许多非聊天用例来说,它也是我们最好的模型ーー我们已经看到早期的测试人员从 text-davinci-003 迁移到 gpt-3.5-turbo,只需要对提示进行少量调整。
API:传统意义上来说,GPT 模型使用的是非结构化文本,这些文本在模型中被表示为一连串的“token”。
而 ChatGPT 模型则是消耗一连串的消息和元数据。
我们正在不断改进 ChatGPT 模型,并希望开发人员也可以用上这些增强的版本。使用 gpt-3.5-turbo 模型的开发人员将可以一直获得我们推荐的稳定模型更新,并且可以灵活地选择特定的模型版本。
例如,今天我们发布了 gpt-3.5-turbo-0301,它将至少支持到 6 月 1 日,我们将在 4 月份为 gpt-3.5-turbo 更新一个新的稳定版本,届时模型页面将提供切换更新版本的选项。
我们现在还为那些希望对特定模型版本和系统性能进行更深入控制的用户提供专用实例。
默认情况下,请求是在与其他用户共享的计算基础设施上运行,这些用户都是按请求付费。我们的 API 在 Azure 上运行,对于专用实例,开发者将按时间段支付为其请求服务而保留的计算基础设施的分配费用。
开发人员可以完全控制实例的负载、启用诸如更长上下文限制等特性的选项,以及固定模型快照的能力。
对于每天运行超过 4.5 亿“token”的开发人员来说,专用实例具有很高的经济意义。此外,它可以根据硬件性能直接优化开发人员的工作负载,和共享基础设施的做法相比,这可以显著降低成本。
Whisper 是我们在 2022 年 9 月开源的语音转文本模型,一经推出便得到了开发者社区的巨大支持,但要运行它并不是那么容易。我们现在已经通过 API 提供了 large-v2 模型,它提供了方便的按需访问入口,价格为每分钟 0.006 美元。此外,我们高度优化的服务堆栈确保了比其他服务更快的性能。
在过去的六个月中,我们一直在收集 API 客户的反馈,以了解如何更好地为他们服务。我们已经做出了具体的改变,例如:
我们相信,AI 可以为每个人提供难以置信的机会和经济赋权,实现这一目标的最佳途径是允许每个人利用人工智能进行建设。
我们希望,我们今天宣布的变化将产生大量的应用程序,每个人都可以从中受益。让我们开始构建由 ChatGPT 和 Whisper 驱动的下一代应用程序吧。