ChatGPT热潮下的“冷”思考

　　导 语：

　　ChatGPT的热潮席卷全球，一时间，几乎人人都在谈论这一新型智能系统。

　　2023年1月3日，我院已在公众号推出《新型智能系统ChatGPT:人工智能的未来已来？》（点击查看）的评论文章。当前，在众科技巨头纷纷“下场”的助推下，这股热潮显得格外汹涌。现代院科技与网络安全研究所研究人员再次撰文，从技术应用前瞻性治理的角度进一步审视热潮背后需要冷静思考的问题。

　　一、科技巨头加持之下热度再攀新高

　　ChatGPT热潮席卷全球，自2022年12月公开试用以来，其用户数两个月内破亿，成为史上用户数增长最为神速的应用。同样，国内有关ChatGPT的报道与热评同样“铺天盖地”，各方人士从技术突破、应用前景以及变革性影响等诸方面进行评析，成为近年来科技界最“火出圈”的典型。其强大的技术功能与不错的用户体验固然重要，但使其热度不减的助推力还来自巨头们的“下场”开卷，科技巨头竞相推出专属“竞品”，业界掀起新一轮“竞赛”。

　　2023年1月，微软“官宣”与OpenAI扩大合作伙伴关系，将在产品中部署OpenAI模型，助力其产品全面智能升级；2月8日，微软便正式宣布将新一代ChatGPT集成到旗下搜索引擎“必应”（Bing）中，新功能支持以聊天形式进行搜索，可根据用户要求调整搜索结果，微软首席执行官宣称新“必应”的诞生意味着“搜索领域进入新时期”。可以预见，网络搜索的范式可能因此改变，“AI生产内容”或将取代传统的“关键词搜索”。

　　

　　图片来自网络

　　ChatGPT的火爆程度及其所属公司与微软的密切合作给同行带来了巨大压力。为提振竞争力，2月6日，谷歌宣布推出智能信息系统Bard，并计划将其与谷歌搜索结合，该系统使用谷歌目前最先进的对话应用语言模型LaMDA，功能与ChatGPT相似，优势在于背靠谷歌搜索这个全球最大搜索引擎，可源源不断获取最新网络内容并自主学习，实现实时“自我进化”。其他公司也在迅速跟进：苹果将于近期举办内部年度AI峰会，将讨论如何应对ChatGPT带来的影响和挑战；百度开发的同类系统“文心一言”（ERNIE Bot）将在3月份完成内测并向公众开放；京东云宣布将推出产业版ChatGPT系统——ChatJD，完善相关系统的产业应用能力；“You.com”“Neeva”等多家国外初创公司也已推出类似的聊天式搜索引擎。

　　二、众多应用的快速涌现绝非偶然

　　ChatGPT应用的走红及巨头们短时间内“组团下场”早已有迹可循。首先，科技巨头在相关领域“深耕多年”。早在2018年，OpenAI就发布GPT的初代版本，目前ChatGPT所用的GPT-3.5版本于2022年初完成训练；谷歌于2021年发布了LaMDA初代模型，Bard所用的第二代LaMDA模型则在2022年5月就已推出；百度于2019年发布了国内首个开源预训练语言模型ERNIE 1.0，并于近年持续研发系列版本ERNIE系统。可以看到，科技巨头们具备雄厚的技术底蕴，在持续提升技术成熟度的同时寻找合适时机发布产品，ChatGPT将人工智能技术加持的聊天机器人引上“风口”，各巨头自然不能放过本次机会。

　　

　　图片来自网络

　　其次，各巨头深谙竞争中“先发优势”的重要。作为科技和互联网企业，最具价值的品牌效应就是“创新”与“前沿”。“变革性”概念或产品利于企业占据市场先机，相关企业必须让技术创新成为自身品牌的“底色”，如此才能确保在同行竞争中立于不败之地，保证“品牌效应”红利持久释放。从此次微软与谷歌的“针尖对麦芒”可见一斑。

　　由此可见，商业驱动是ChatGPT爆火背后重要的推动力。其实对于此场景，读者应该有似曾相识之感。2021年“元宇宙”热潮之时，诸多科技巨头亦参与到“元宇宙竞赛”中，脸书（Facebook）公司甚至更名为“Meta”，宣告其将以新面貌迎接元宇宙时代的到来。但元宇宙风潮近期已“回归平静”：相关股票市值接连大跌、Meta公司元宇宙部门亏损严重、多公司裁撤元宇宙业务岗位。虽然ChatGPT已落地成势，相比元宇宙而言有更为具象的应用场景，但对于其未来发展与应用场景，我们仍然要适当进行更加深入的“冷思考”。

　　三、ChatGPT会带来颠覆性变革吗？

　　评估一项新型技术与应用是否会带来变革性影响，其实需要遵循一个完整的逻辑链条，即“技术—应用—影响”。一项新技术或应用，取得技术上变革性突破，并不必然带来变革性社会影响，它必须具备一定的社会应用广度与深度，而这又取决于三个主要因素：一是技术本身是否成熟；二是其社会风险是否可控；三是政策环境是否利于其快速扩张。我们不妨就从这三方面来“推演”一下ChatGPT的应用前景。

　　

　　图片来自网络

　　首先，从技术功能看：虽然众媒体欢呼未来ChatGPT等新型智能系统将席卷各行各业，但随着用户体验的深入，新型智能系统回答错误、偏题等缺陷逐步显现。“除非你知道正确答案，否则你不知道AI是否在胡说八道”，《哈佛商业评论》认为，新型智能系统似乎只是一个聪明的玩具，大范围推广这类工具仍面临系统失误后代价高昂等关键障碍。业内人士、图灵奖得主杨立昆等人也认为，ChatGPT等新型智能系统在科技水平上没有变革性突破，离实现通用人工智能还有现阶段技术水平难以克服的障碍。从类似系统的推广程度看，ChatGPT与多年前出现的AlphaGo等智能系统类似，分别在人际交流、形势判断等智能领域展现出令人惊讶的突破。但多年过去，AlphaGo系列智能系统在经济社会中的应用仍寥寥无几，与之相比，ChatGPT广泛应用于经济社会或许也有很长的路要走。

　　其次，从社会风险看：ChatGPT等新型智能系统在回答提问时不再显示数据来源，进一步加大了人们对新型智能系统侵犯数据产权的担忧。ChatGPT等新型智能系统“知无不言”，虽对回答核武器、毒品制备等问题做了一定防范措施，但提问方式可绕过这些系统的防范。与此同时，ChatGPT等新型智能系统毫不掩饰在回答问题时选择性筛选信息的做法，面对这些新型智能系统，人们不再得到完整的相关信息，而是得到系统“量身定制”的答案，进一步陷入“信息茧房”的困境。目前，这些智能系统还被发现能够研发网络攻击武器、编制虚假信息文本，甚至发表具有“价值”取向的言论，进一步推升了人们对新型智能系统危害国家安全与社会稳定的担忧。

　　第三，从政策环境看：相较于互联网技术应用发展伊始，ChatGPT等新型智能系统应用已不具备“野蛮生长”的环境。对新技术应用进行前瞻性治理的理念已深入人心，国际社会各方在AI领域早已高度重视其对经济、社会、国家安全等方面的影响，并着手构建治理框架。如美国已系统评估了智能系统对未来劳动力等多方面影响，将“负责任”列为推动人工智能等智能系统发展的原则之一，并开始改革反垄断法等治理工具，将巨头在相关领域的垄断列入其中；欧盟《人工智能法》更公开宣布对ChatGPT等新型智能系统实施“前瞻性”治理，避免ChatGPT等新型智能系统在社会、经济等领域无序扩张。

　　ChatGPT的发展前景绝不是仅凭“卓越”的技术功能就能大行其道的，它还取决于社会的选择，取决于各方对其功能、风险与价值的评估。这种评估涉及技术、社会甚至伦理等方方面面的综合考量。当然，这绝不是在唱衰ChatGPT，而是希望提供更多的观察视角与讨论空间，“让子弹再飞一会儿”。

　　（原题为《ChatGPT热潮下的“冷”思考》）