ChatGPT API为企业应用的新浪潮奠定基础
新的API比以前的ChatGPT界面更快、更便宜,而且用户可以选择不向其提交数据,为企业开发者打开了新的大门。
受欢迎的ChatGPT生成性人工智能服务的制造商为企业软件开发者提供了舞台,使他们能够通过新的API将其大型语言模型纳入自己的应用程序。
本周公布的新API取代了ChatGPT生成性人工智能服务的先前网络界面,该界面只消费非结构化文本。相反,ChatGPT的API--以及本周为OpenAI的Whisper语音到文本产品发布的另一个API--通过一种名为Chat Markup Language(ChatML)的新格式,消费一连串与元数据配对的消息。根据该公司的一篇博客文章,新的API服务建立在更新的大型语言模型GPT-3.5-turbo上,旨在使运行成本比以前的GPT-3.5模型低10倍。
博文称,根据早期访问API客户的反馈,OpenAI也将不再使用通过API提交的数据来进行服务改进,除非用户选择加入。该公司现在还为希望更深入控制底层模型和系统性能的用户提供ChatGPT API服务的专用实例。
IDC的分析师Michele Rosen说,这意味着企业将可以直接访问ChatGPT模型,而不会失去对其数据的控制,并且是在ChatGPT原始输出和其终端用户之间进行调解的更有效的手段。
"开发者将能够以与微软和OpenAI以及其他发布ChatGPT应用程序的人所做的完全相同的方式来做这件事,在用户与应用程序互动之前,你预先提供一组提示,并围绕发生的对话创建一个背景和约束,"罗森说。
换句话说,在罗森看来,ChatGPT API意味着面向消费者的公司有望避免重蹈微软首次将ChatGPT整合到其必应搜索引擎的覆辙,后者产生了著名的乌托邦式的结果。
'Alexa,我们这个季度会盈利吗?
ChatGPT API已经有了一些早期采用者,包括Snapchat社交网络的制造商Snap;Instacart的杂货配送应用;以及电子商务服务提供商Shopify的新个性化服务。
罗森说:"它们都是消费者级别的应用或网站,你在那里与大量的人进行大规模的互动,这些人需要我们从网络的早期就一直在努力实现的个性化水平,"。"但从来没有可能像ChatGPT所能实现的那样定制回应"。
专家们同意,这只是一个开始。另一位行业分析师预测,呼叫中心自动化和聊天机器人应用几乎马上就会受到重大干扰。
"Constellation Research副总裁兼首席分析师Andy Thurai说:"鉴于[OpenAI]照顾到了客户数据的隐私,并允许开发者从底层模型中进行选择,而不是强迫他们只使用一种选择,我认为这很快就会获得很大的牵引力。
其他行业观察者设想,随着ChatGPT API的发布,将出现新型的内部知识管理和商业智能应用。
"加利福尼亚州康科德市的自由技术顾问Rob Zazueta说:"我可以开始编写程序,从不同的地方获取数据,以某种方式结合起来,创造出正确的提示,这个提示会让我得到ChatGPT所说的内容,然后我的应用程序再把它吐出来。
Zazueta说,这样的应用程序可以取代为企业领导人手动生成的财务预测和其他报告。
"他说:"现在已经出现了低代码和无代码的大趋势,在这一点上,基本上就是拖放图片并试图用API连接它们。
有了ChatGPT和Whisper API,"有可能让非常简单的东西有一个对话界面,实际上会建立一个获取报告的应用程序,"Zazueta说。"我在想,'Alexa,我们这个季度会盈利吗?"
提示工程和开发人员的新 "橡皮鸭子
ChatGPT在消费者和技术专家中病毒式地流行起来--在11月推出后的头五天,就有100万用户注册--已经预示着大型语言模型和生成性人工智能的新时代,这也一直在寻找其进入开发者工具的途径,如GitHub的Copilot,可以自动生成代码。
到12月,IT行业专家预测,未来的开发工作将不是编写机器使用的具体编码指令,而是制作正确的提示类型,从人工智能系统中产生适当的输出。Zazueta说,ChatGPT API只会加速这一转变。
他说:"开发人员必须弄清楚的是,如何进行提示工程,"他说。"我有一个特定的用例,我想为我的客户提供服务。我不一定能把他们的问题交给ChatGPT,因为它将会吐出我们在Bing上看到的那种东西--开发者的工作将站在终端用户和大型语言模型之间。
与Copilot不同,ChatGPT可能不会写代码,但可以作为一种新的 "橡皮鸭",供开发人员提出概念性的想法,而不是Zazueta现在坐在他桌子上的那种没有生命的玩具。
他说:"如果你想弄清楚如何实现某些东西,你就向你的橡皮鸭子解释。在你解释的过程中,你能够更好地准确表达你想做的事情。 ChatGPT会回话,可能真的会有一些有用的信息。"
罗森说,ChatGPT API和ChatML可以改变自然语言和正式编程语言(如Python或Java)之间的界限。
"它把一切都转移到了概念化过程中,""因为一个提示更接近于你的项目描述的摘要,而不是我们习惯于看到的软件创建的正式代码类型。"
作者:贝丝-帕里索
数字感化生活,欢迎关注上海白日梦科技,留下你的评论和点赞吧。