ChatGPT的“终极之问”：是人类的赋能工具，还是自我罢黜的陷阱？｜复旦大学

　　上月，“ChatGPT之父”Sam Altman在《Planning for AGI and beyond》一文中谈到了Open AI的使命：确保通用人工智能缓慢地比人类更聪明，以造福全人类。缓慢而不是“一步到位”地部署AGI，Altman的审慎背后是这样一种清醒认知，即以ChatGPT为代表的人工智能技术的发展将对人类社会带来巨大冲击。

　　ChatGPT将如何重塑人与世界的关系、人与人的关系、人与知识的关系，甚至带来人类整体认知方式的转变？对其发展的基本定向与把控，离不开文科学者的深度介入。近日，由复旦大学哲学学院、《探索与争鸣》编辑部、《广州大学学报》（社会科学版）编辑部以及《复杂现代性与中国发展之道》课题组联合举办的 “潘多拉魔盒还是文明利器？——大文明视野中ChatGPT跨学科反思”高端论坛在复旦大学召开。来自哲学、中文、历史、传播学、政治学、社会学、教育学、人工智能等多学科近30位专家学者进行了深入的学术交流。

　　

　　ChatGPT将如何影响人类交往？

　　愈发类人化的人工智能技术对人类交往将带来怎样深刻的影响，这是学界关注的老话题。然而，ChatGPT等技术的出现，让原本抽象的讨论可以被具象化。上海纽约大学校长童世骏教授就与ChatGPT进行了一场关于其是否具有交往理性的对话。“在与ChatGPT的对话中，经常会发现它所提供的答案是错误的，但它的口气却非常坚定，显得很权威，这是否符合交往合理性的标准？”“人类用户在与聊天机器人对话时，会越来越觉得是在与真人聊天，是否可以看作是聊天机器人对人类用户的欺骗？”“ChatGPT在处理文本时，有没有能力把意见表达与事实信息区分开来？”……他这样“拷问”ChatGPT。

　　童世骏认为，ChatGPT在不到1秒中的时间内给出的答案逻辑清晰缜密，令人惊叹。但在体现交往合理性上，它仍有一些“先天”限度。在他看来，ChatGPT所实施的话语施事行为，严格地说只限于提供信息；而其话语施效行为真正的实施者，是ChatGPT的人类设计者和使用者。因此，ChatGPT之体现交往合理性程度的程度，取决于其设计团队成员的工作方式，以及其与其他团队、用户、公众等之间的互动，是否以及如何体现合理性。

　　ChatGPT强大的知识储备、迅速的回应能力和知错就改的态度，俨然一个完美的聊天和倾诉对象。有调查显示，美国89%的大学生使用ChatGPT做作业、写论文。此外，很多青少年向ChatGPT倾诉自己的心理困扰，并认为“有被安慰到”。这对人类的交往将产生怎样的影响？

　　清华大学政治学系教授任剑涛就指出，人们常常引用亚里士多德的“人是天生的政治动物”这句名言，意指人必须进行社会政治交往以结成某种政治结构；但往往忽略了亚里士多德后面还有一句，人是天生政治动物的原因，就在于人可以通过语言进行交流。换言之，人的交往和政治关系的发生，是借助语言这个工具。在借助ChatGPT这样的语言库交流功能时，人作为一个情感动物与虚拟的情感交流对象之间产生的人机互动，对人类的交往结构将带来的颠覆性改革值得思考和关注。

　　人类知识生产的主体地位遭到挑战？

　　ChatGPT的横空出世引发了新一轮的职业焦虑，不仅是体力劳动者，知识生产者也惊觉自身“岌岌可危”。人类知识生产的主体地位是否遭到挑战？ChatGPT在其语料训练和人工微调中是否会出现系统偏向性，导致人的单向度思考？这成为论坛上学者们关注的热点话题之一。

　　在清华大学中文系教授汪民安看来，ChatGPT的文本生成是一种抽象的、概括式的结构主义活动，其目的是去寻找最均平化的意义，相信所谓的真理潜藏在共性和普遍性之中，而不是像解构主义那样去消解和摧毁意义。它生产的知识是无限循环的，会散布、弥漫在所有领域，而有个性的、活生生的东西会越来越少。在这个意义上，人很可能有一天是跟着机器来学习，而不是相反。ChatGPT可能带来某种意义上福柯所说的“人之死”。

　　华东师范大学历史系教授许纪霖认为，ChatGPT将带来一场新的知识学习革命，有两种可能的前景：一方面，无论是老师还是学生，可能会深度依赖聊天式语言模型，让提供的标准答案大致相似，导致未来学生思维更加趋同化、单一化；但另一方面，它在技术上提供了一种可能，使得一种苏格拉底式的对话，古典意义上的批判性思考能够重新回归。

　　南京大学社会学系教授陈云松指出，ChatGPT看似是非常方便的百科全书式的知识提供者，但就像培根讲的“知识就是力量”，谁垄断了文本，谁具有这样的力量影响世界，这是应该加以研讨甚至警惕的。比如，通过专业的技术团队反向训练模型纠正ChatGPT的错误回答，这在未来是双刃剑。“当你决定纠正它时，你同时也给了它一个很强的前提假设的定义。谁来定义这个对和错？谁来对内容进行反向引导，这也是人文学者所需要探讨的问题。”

　　不过，就技术现状而言，ChatGPT取代人类知识生产的担忧似乎还为时过早。上海至再科技有限公司创始人、首席执行官马晓毅坦言，ChatGPT的最初设计目的是一个语言模型，而不是一个知识库；知识库、逻辑推理和情绪，这些都是它的副产品。复旦大学计算机科学技术学院教授邱锡鹏也指出，ChatGPT对信息的处理还是一个概率问题，而无法像人类那样对信息的事实性作出判断。这也是为什么它经常一本正经的“胡说八道”。

　　后人类纪文明的到来？

　　随着人工智能技术的突飞猛进，人与机器的边界日益模糊，“人是什么”这一哲学古老命题又再次需要被重新审视。正如复旦大学哲学学院教授汪行福所说，“ChatGPT的出现蕴含着一个‘终极之问’，即对人类来说它是‘赋能’（empower）的工具，还是人类自我‘罢黜’（dethrone）的陷阱？对这一‘终极之问’的思考与回答关乎人类文明命运。”

　　在汪行福看来，如果以智人的大脑结构和自然语言的理解和交流为基础的人类文明可以称之为“人类纪文明”，那么ChatGPT以及AIGC的出现则在某种意义上预示着“后人类纪文明”的到来。他从《圣经》修建巴别塔的故事讲起，即上帝如何通过使语言变得混乱而阻止人类“通天”的野心。巴别塔的倒塌意味着以智能大脑为基础的自然语言文明的出现。自然语言的生动性、多义性为文学艺术创造了得天独厚的条件，但是在知识表达和交流上也给人类带来了障碍。而今天，ChatGPT突破了自然语言对人与人之间交往的隔阂，打破了上帝对人类文明限定的框架，将人类带向不确定的未来。这个不确定的未来，既是希望之所在，也是人类恐惧之所在。

　　华东师范大学政治与国际关系学院院长吴冠军教授认为，从思想史的脉络来看，今天我们对人工智能发展的所有“傲娇”反应，感觉自己被僭越、被否定，其根源在于一种将人类自身放在“C位”的人类主义（humanism）框架，万物在阿甘本意义上的“人类学机器”里全部转成了资源，就连人自身也不例外。后人类纪文明的转向，需要对今天所支配我们思想的人类主义框架进行彻底反思。

　　复旦大学哲学学院教授王金林则认为，通用人工智能的到来可能意味着一种新存在的诞生，是人类追求永恒性的另一种表现形式。“这似乎是人类的宿命，人类总是将自己‘掏空’，让自己的本质力量作为对象性存在发挥出来，曾经将其寄托于上帝，而现在寄托于AGI，然后再与自己所造的‘神’来作战，重新使人的本质回归自身。”

　　在复旦大学哲学学院院长孙向晨教授看来，整个现代性是基于进步的观点，但在这个时代，还是要发展一种中国人所谓的“知止”的智慧。“文明的逻辑是寻找人类的基本平衡态，而技术的逻辑则不同。以往我们把技术看作是一种手段，通过人的操控来制定规则，但今天技术逻辑发生了转变，是技术在支配着我们推进它自身的升级换代。‘时止则止，时行则行，动静不失其时，其道光明’。文明逻辑和技术逻辑之间要有对冲，才会形成宽广的缓冲地带，才会有更好的未来。”

　　

　　作者：陈瑜

　　编辑：陈瑜

　　责任编辑：杨逸淇

　　特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。