ChatGPT之父：现在只是0.7版本，还在准备一个强大的模型

　　·“我也对（人工智能的）这种速度和步伐表示担忧。我们做了很多决定来阻止事情发生，放慢速度。但我们可能已经为一些强大的模型准备了很长时间，由于这些原因，我们还没有发布。”

　　

　　OpenAI联合创始人兼首席执行官山姆·奥特曼。

　　OpenAI联合创始人兼首席执行官山姆·奥特曼（Sam Altman）近日在一次采访中承认ChatGPT是个“可怕的产品”。

　　在纽约时报科技播客“Hard Fork”2月10日播出的节目中，奥特曼引用ChatGPT频繁出现的错误消息时说：“人们真的只是去访问一个有时能正常工作有时会宕机的网站。”

　　“他们正在输入一些东西。他们一直在尝试直到做对为止，然后复制那个答案并将其粘贴到其他地方——然后尝试将其与搜索结果或其他工作流程整合。”他补充道。

　　自去年11月推出以来，ChatGPT 在互联网上掀起了一场风暴。它已经颠覆了教育领域，帮助学生写论文和通过考试。该机器人还相当擅长编写求职信、代码行和内幕文章。比尔·盖茨甚至表示，ChatGPT中的技术将“改变我们的世界”。

　　在接受Hard Fork采访时，奥特曼承认，ChatGPT的人工智能技术确实很酷。“人们真的很喜欢它，这让我们很开心。但目前还没有人会说这是一款出色的、集成良好的产品……但这里有如此多的价值，人们愿意忍受它。”奥特曼说。

　　奥特曼还透露：“我们可能已经为一些强大的模型准备了很长时间。”“当我们准备好时，当我们认为我们已经完成了校准工作和所有安全方面的思考，并与外部审计员和其他AGI实验室合作时，我们就会发布这些东西。”

　　澎湃科技（www.thepaper.cn）编译了部分节目内容：

　　凯西·牛顿（Casey Newton，著名科技媒体人）：山姆，当我看到新的Bing搜索结果页面，左侧是蓝色链接，右侧是AI生成的答案时，我的想法是，a，太酷了，b，出版商要输了，因为当我可以在另一侧获得自然语言答案时，作为消费者，为什么我要单击蓝色链接？搜索引擎优化以及如何出现在结果中更高的位置中，背后是一整个行业。那么你们如何看待依赖人们点击蓝色链接的公司可能会对此做出的反应？

　　山姆·奥特曼（OpenAI联合创始人兼首席执行官）：我认为微软在将链接放入生成的内容中做得非常好，就在右侧，如你所见。批评之一——对ChatGPT公平的批评是，你不确定它是否准确。因此，通过添加微软所做的引用，我认为这将引导流量。

　　而且，如果在购买电视的示例中，最后发生的点击是电视评测，那么你会从他们那里购买，并且你的意图和可能通过它购买的几率要高得多，我认为推荐流量的质量应该非常高。

　　凯西·牛顿：凯文，你怎么看？

　　凯文·斯科特（微软首席技术官）：出版商、广告商和用户都有新的机会以不同的方式使用该技术。所以我认为，在山姆看来，那里会有很多价值，出版商有很多分发渠道，人们可以通过很多方式参与这个新市场。

　　凯西·牛顿：山姆，自从ChatGPT推出以来，我们已经看到一件事，那就是它并非万无一失。它犯了很多错误，包括数学错误，只是凭空捏造东西。你说过不应该将ChatGPT用于任何重要的事情。你如何考虑这一点，并将其插入可能成为每天被大量人使用的巨大、流行的搜索引擎中？你担心这个人工智能可能犯的错误吗？

　　山姆·奥特曼：首先，这是一个错误更少的更好的模型。但是基本模型仍然存在很多错误。但正如微软今天所经历的那样，以及他们置于其上的所有层级，和围绕它构建的所有技术，仍然会出现错误。但是准确性和实用性——自己检查一下。不要相信我的话。但我认为它比ChatGPT的体验有了显著改善。随着时间的推移，它会迅速好转。

　　凯西·牛顿：人们使用Bing时是否有更应谨慎对待的搜索类别，它们可能比其他搜索更容易出错？

　　山姆·奥特曼：我还没有答案。显然，我们将尝试真正“中和”所有类别的查询，因为你可以想象它们可能带来的一些危害。

　　我认为我们将很快了解模型所犯的实际错误所在。每次我们发布一些东西时，我们都会学到很多东西，通过发布它并了解用户如何与之交互。ChatGPT进行了大量的学习。我要指出的一件事是所有这些技术的新颖性。3年前，GPT-3还没有推出。我认为很少有人曾相信有意义的AI进步将会发生。

　　我认为这真的只是两个多月的时间，已经引起了主流的关注和兴趣，并试图弄清楚我们将如何使用所有这些东西，如何适应。对于任何新技术，你都无法完美地预测所有问题和缓解措施。但如果你运行一个非常紧密的反馈循环，按照事情发展的速度，我认为我们可以非常快地获得非常可靠的产品。

　　凯西·牛顿：据推测，你们已经使用这项技术，或者使用新的Bing，至少几个星期了。我很好奇。它如何改变了你的搜索方式？或者你用它来做什么，也许觉得以前的搜索工具可能不行？

　　山姆·奥特曼：它很快就变得不可或缺。当我无法访问它时，我会想念它。一切都很异想天开——我有个14岁的女儿，她喜欢说“riz”和“bussing”之类的话。我不知道她在说什么。你可以输入这个，比如，嘿，我有一个十几岁的孩子，她在说这些话，我不明白。

　　凯西·牛顿：你有Z世代翻译器？

　　山姆·奥特曼：对。它真的非常擅长这样的事情。我喜欢做东西，我一直在寻找工业用的套结缝纫机，之前进行了大量研究。使用新的Bing，它向我展示了我以前在任何其他搜索中从未见过的东西。它实际上确定了我认为我要购买的机器。

　　凯西·牛顿：ChatGPT推出后，我与谷歌的人聊，他们显然非常嫉妒，他们会对我说，好吧，你必须明白，ChatGPT是一个演示。言外之意是，我们正在这里建造真正的东西，总有一天你会看到的。

　　但是两个月后你再看，没有人把ChatGPT当作一个演示来对待。人们绝对会将其用作日常生活的一部分。我想我们会看到与Bing类似的东西。

　　山姆·奥特曼：是的，ChatGPT是个可怕的产品。而且它真的不是设计用于人们的……

　　凯西·牛顿：不过，怎么说呢，山姆？因为它是一个你可以输入的框，所以你几乎可以得到任何你想要的东西。

　　山姆·奥特曼：当然。但是如果你想一想人们想要将它集成到工作流程中的方式，你希望它能够使用自己数据的方式，与你的其他应用程序和服务集成的方式，人们真的只是去访问一个有时能正常工作有时会宕机的网站。他们正在输入一些东西。他们一直在尝试直到做对为止，然后复制那个答案并将其粘贴到其他地方——然后尝试将其与搜索结果或其他工作流程整合。

　　当然，这很酷。人们真的很喜欢它，这让我们很开心。但目前还没有人会说这是一款出色的、集成良好的产品。

　　凯西·牛顿：这不是1.0版本。

　　山姆·奥特曼：是的，它是0.7版本之类的东西。但这里有如此多的价值，人们愿意忍受它。现在，它是一个真正的产品了。

　　凯西·牛顿：我今天想了很多，因为我听到微软高管谈论人工智能，关于Tay，这是2016年臭名昭著的聊天机器人。

　　山姆·奥特曼：这是我很久很久没有听到的名字了。

　　凯文·斯科特：这个聊天机器人出来后，几乎立即被喷子抓住，教给它可怕的东西，把它变成了一场种族主义、否认大屠杀的灾难。它被下架了。

　　我认为这对人工智能行业的很多人来说都是一个警示。我认为实际上，如果你与这些大型AI公司的人交谈，这就是他们没有像现在这样迅速推出产品的很多原因，因为他们记得那一刻，哦，天哪，我们做了啥。

　　为此，在微软内部很难获得支持？有人说，等一下。上次发布AI聊天机器人，我们不是吸取了教训吗？伤疤好了吗？

　　山姆·奥特曼：我怀疑还有伤疤。不过，有趣的是，我们从中学到的不是，哦，天哪，我们永远不应该再这样做了。而是，哦，天哪，我们需要真正认真对待负责任的AI安全和道德规范。这是催化剂之一，因为我们仍然非常非常认真地对待人工智能，并且坚信它将成为我们所有人见过的最重要的技术之一，如果不是最重要的技术，我们必须去解决所有这些问题，以避免再次犯类似的错误。这并不是说我们不会犯错误。但在过去的5年半里，我们一直在努力——不仅仅是阐明一套原则，以便我们可以将它们作为营销材料推出，而是我们如何在每天的工作中将它们付诸实践？

　　所以从这个意义上说，当这个新的突破来自OpenAI时，我们并没有像你想象的那样遇到那么大的阻力。他们知道他们要锻炼什么肌肉，以确保我们可以自信地启动它，我们是安全和负责任的。

　　凯文·斯科特：山姆，有些人，包括OpenAI的一些人，担心人工智能部署到数十亿人使用的工具中的速度，人们担心它可能进展太快，让人大跌眼镜，一些安全工作并不像它应该的那样稳健。那么，对于那些担心这一切太快以至于社会无法调整或需要设置必要护栏的人，你有什么看法？

　　山姆·奥特曼：我也对这种速度和步伐表示担忧。我们做了很多决定来阻止事情发生，放慢速度。关于传言，你可以随心所欲地相信，也可以不相信。但我们可能已经为一些强大的模型准备了很长时间，由于这些原因，我们还没有发布。

　　但我对两件事情感觉非常强烈。第一，每个人都必须有机会了解这些工具，它的优点缺点、好处坏处，它们将如何被使用，决定未来是什么样子，共同创造它。有想法认为，这种技术应该保留在科技行业的一小部分中，因为这些人是我们可以信任的人，而其他人还没有准备好，你会在人工智能社区的各个角落听到不同的说法。

　　但我强烈拒绝。我认为这不是一个我们应该感到兴奋的世界。鉴于我坚信这将改变许多，也许是社会的绝大多数方面，人们需要尽早参与进来。

　　随着我们变得更好，他们需要看到它，不完美之处，等等，并参与讨论它的发展方向，我们应该改变什么，我们应该改进什么，我们不应该做什么。把它藏在实验室的板凳上，只展示给我们认为准备好的人，这感觉不对。

　　第二，在我所看到的所有技术史中，如果不与现实接触，你无法预测所有将要发生的美好事物及其误用。因此，通过部署这些系统，通过学习，并通过获得人类反馈来改进，我们已经做出了非常非常好的模型。

　　我希望我们部署的一切都能达到越来越高的一致性。在微软和OpenAI，我们不是那些匆忙推出这些东西的公司。多年来，我们一直致力于此并进行研究。我认为，我们有一个非常负责任的方法。但我们确实相信必须尽早将全社会带入帐篷。

　　凯西·牛顿：我很好奇你是否可以描述，即使只是一种模糊的方式，你正在探索什么样的能力，感觉有点太强大而无法分享，或者没有经过适当的测试？因为这东西感觉——

　　山姆·奥特曼：你是说，你对加速事情感到紧张吗，你能告诉我们一些疯狂的事情吗？

　　凯西·牛顿：我问的原因是因为我想有些人想了解。他们使用了ChatGPT，认为这真的很强大。他们可能认为这真的很酷。他们知道你们也在研究更多东西。但它确实听起来，我不知道，神秘或怪异，我们一直在研究这些技术，它们更强大。

　　山姆·奥特曼：不马上把这些东西拿出来的另一个缺点是，人们会认为我们有一个完整的通用人工智能（AGI），准备好按下按钮，这还差得远。

　　我们提供了你们看到的更强大的版本，以及一些我认为大体上符合你们期望的新内容。当我们准备好时，当我们认为我们已经完成了校准工作和所有安全方面的思考，并与外部审计员和其他AGI实验室合作时，我们就会发布这些东西。

　　但是距离超级强大的系统肯定还有一些主要的想法缺失。我们还没有弄清楚这些。据我所知，其他人也没有。

　　凯西·牛顿：在安全和责任问题上，我们一直在严厉敲打你们。但我想知道你是否想在这里勾勒出更多的乌托邦愿景，因为一旦你把这些东西送到亿万人民的手中，这确实成为他们日常生活的一部分，那更光明的未来是什么？你希望看到这些东西创造出来吗？

　　山姆·奥特曼：我认为凯文和我都深信，如果你给人们更好的工具，如果你让他们更有创造力，帮助他们更好、更快地思考，能够做更多的事情，建立能够扩展人类意志的技术，人们就会以令人难以置信的积极方式改变世界。世界上将有大量先进的人工智能成果。

　　我们将贡献其中之一。其他人也将贡献。微软将以各种方式部署它。我认为，就激发人类潜能的手段而言，该工具将与之前发生的任何重大技术革命一样重要。

　　而经济赋能、创造性与成就赋能将会实现，我认为这可能会令人惊讶的积极。我们可能会在技术上碰壁，不想承诺我们已经解决了所有问题。我们当然不知道。但是轨迹看起来真的很好。

　　凯文·斯科特：轨迹是朝着更容易接近的方向发展。我一遍又一遍想到的是，我20年前写的第一个机器学习代码，获得了研究生学位，一堆研究生教科书，一堆研究论文，还有耗费六个月的工作。要产生我当时的成果，一个积极进取的高中生现在可以在周末的几个小时内完成。

　　因此，这些工具将更多的权力交到人们手中。所以现在，你甚至不必拥有计算机科学学位就可以用技术做非常复杂的事情。你可以接近它——

　　山姆·奥特曼：你可以用自然语言编程，这太酷了……

　　我在弗吉尼亚州中部的农村长大。人们是聪明的、有创业精神的和雄心勃勃的。你给他们强大的工具，他们就会去做有趣的事情。