“潘多拉魔盒还是文明利器？——大文明视野中的ChatGPT反思” 高端论坛在沪举行

　　

　　与会专家学者合影

　　3月13日，复旦大学哲学学院、《探索与争鸣》编辑部、《广州大学学报》（社会科学版）编辑部以及“复杂现代性与中国发展之道”课题组联合举办的 “潘多拉魔盒还是文明利器？——大文明视野中ChatGPT跨学科反思”高端论坛在复旦大学召开。上海市社联党组书记、专职副主席王为松和复旦大学副校长陈志敏在开幕式上致辞。来自哲学、中文、历史、传播学、政治学、社会学、教育学、人工智能等多学科的近30位专家学者围绕以ChatGPT为代表的人工智能技术进行了深入的学术交流。

　　

　　在开幕致辞上上海市社联党组书记、专职副主席王为松指出，人工智能已经被写入“十四五”规划纲要，上升到国家战略高度。ChatGPT的出现是人工智能发展的一个重要节点，它在教育圈、学术圈、金融资本市场等领域备受关注，将“信息革命”推向了一个新的阶段。充分地、深入地探讨这一新技术对人类文明的影响、为深入推进中国式现代化建设提供思想支撑，是人文社科学者们的重要使命。对于ChatGPT的进一步认识需要汇聚不同学科和不同领域专家学者的真知灼见，在文化、社会、人类等众多维度拓展理论和实践的认知。

　　复旦大学副校长陈志敏认为，以ChatGPT为代表的人工智能对人与世界的关系、人与人的关系、人与知识的关系、教育的转型，甚至是人类整体认知方式的转变等，都将带来巨大的影响，而对其发展的基本定向与把控，离不开文科学者的深入参与。来自各个学科领域的专家学者可以从不同维度、多重视角探讨以ChatGPT为代表的人工智能技术，为推动中国人工智能的发展贡献智慧和学识。

　　

　　会议召集人之一——复旦大学哲学院汪行福教授介绍了本次研讨会的核心关切是在历史和大文明的视野下认识和反思ChatGPT这一新技术。他指出，ChatGPT的出现蕴含着一个“终极之问”，即对人类来说它是“赋能”（empower）的工具，还是人类自我“罢黜”（dethrone）的陷阱? 对这一“终极之问”的思考与回答关乎人类文明命运，仰赖于人文学者们的对话与交流。

　　开幕式后，各位专家学者就ChatGPT与人类交互的前沿问题和应用领域、ChatGPT对人类交往的影响、人工智能界限的科技伦理、ChatGPT的语言模型及其对知识学习的影响等议题展开了内容丰富的讨论，实现了学术和思想的碰撞。

　　复旦大学计算机科学学院的邱锡鹏教授表示，ChatGPT跟其他类型的人工智能对话系统不同，它被称作“对话式大型语言模型”。随着算力增加，以及互联网上文本增多，这个模型可以建模所有互联网上出现的文本概率。除了涌现能力之外，ChatGPT还有非常重要的三个能力：情景学习、思维链、指令学习。情景学习赋予了ChatGPT非常强的学习能力；思维链则代表了将复杂问题分解为简单问题的能力；指令学习则帮助机器听懂人的指令，使所有自然语言的任务全部指令化。通过这三个技术，ChatGPT成为了能与人类进行良好交互的系统。

　　上海至再科技有限公司创始人首席执行官马晓毅指出了ChatGPT的几个问题：许多用户认为该程序有着很大的知识图谱，严密的逻辑推理，能生成非常流畅的文本，但ChatGPT却如同黑盒子一般。作为一个内部有着有1750亿参数的程序，包括用户，乃至研究人员和开发人员都无法解释参数跟参数之间的关系，也难以通过修改参数来解决系统出现的问题。马晓毅强调，ChatGPT在本质上是一个语言模型，而非知识库。在使用过程中，该程序输出了许多严重的错误信息，但这恰恰是因为它的定位是语言模型，而知识库、逻辑推理和情绪则是它的副产品。目前单纯的ChatGPT的使用场景还比较有限，但这一领域的发展速度极快，ChatGPT的未来仍然充满可能。

　　上海纽约大学的教授童世骏教授认为，考虑到ChatGPT的交往工具性质，我们应该以工具合理性的标准来衡量它是否合理，即判断ChatGPT是否能以最有效方式实现给它指定的任务。然而，ChatGPT缺少区分意见表达和事实信息的能力，也无法辨识恶意编造的信息。因此，从交往理性来讲，该程序存在根本性局限。此外，正如乔姆斯基批评的那样，ChatGPT在强调自己“只是在执行命令”的过程中，展现出了它的非道德性。

　　清华大学政治学的任剑涛教授讨论了ChatGPT驱动的交往革命，任剑涛通过波普尔的“三个世界”理论分析了ChatGPT究竟属于哪个世界。波普尔把物理世界称作“世界1”，包括物理的对象和状态；把精神世界称作“世界2”，它包括心理素质、意识状态、主观经验等；波普尔以“世界3”用来指人类精神活动的产物，即思想内容的世界或客观意义上的观念的世界，或可能的思想客体的世界，包括客观的知识和客观的艺术作品。而ChatGPT则属于波普尔定义下的世界3，它以主观的形式来探索人们的思想，却以客观的形式存在，因此我们也必须考虑“我在与谁交往”的问题。此外，任剑涛认为，相较于与大众缺乏交往的精英，拥有普遍情感与一般智商的ChatGPT或许会在引领大众的普遍交往或日常交往中，发挥惊人的作用。

　　华东师范大学历史学教授、中国现代思想文化研究所副所长许纪霖教授以“跳出魔盒的精灵：ChatGPT的诞生与人类面临的两难困境”为题，讨论了ChatGPT带来的新挑战。许纪霖指出，AI的出现让全球面临一场新的知识学习革命。今天的高级AI已经可以替代大部分老师的功能，因此未来的老师也必须超过这些程序，“好学生”和“好老师”的标准也将随之改变。另一方面，对语言模型的深度依赖也可能导致未来学生的思维，更趋同化、单一化。但是，ChatGPT也为实现用户或学生与程序直接进行一种“苏格拉底式的对话”提供了可能，而这种对话的关键，在于用户或学生能否问出好的问题，逼迫ChatGPT给出更好的回答。另一个值得思考的问题是，ChatGPT能否代替人类的存在。今天的人工智能集中在波普尔定义下的第三世界，但由于它缺少肉身，也尚未拥有属于第二世界人类的心理，因此ChatGPT无法学习许多“模糊性知识”，更无法实现从0到1的知识创新。虽然人工智能是人类的好伙伴，但如果听凭其自主进化，它最后可能会演化为人类的主人。

　　华东师范大学政治与国际关系学院院长、吴冠军教授以“人类主义的黄昏，AIGC与后人类境况”为题，讨论了AI的出现对于人类主义的影响。吴冠军指出，当比人类拥有更多知识，反应速度更快，甚至更为通用的AI出现后，人类感到“被僭越、被替代、被否定、被遗弃”。突然之间，人类似乎不再位于文明架构的中心。对此，吴冠军提出我们应该以“新启蒙主义”和“后人类主义”的方式进行反思。“新启蒙主义”提出，我们应该“反内容不反框架”，正如同过去将黑人、女性、LGBTQ等“他者”包括进框架一样，今天我们也应该思考如何将“人工智能”纳入框架。第二种反思方式是以“后人类主义”的视角观察AI，这种观念挑战了支配我们思想的框架，打破人类中心主义的框架，思考后人类纪文明的可能。

　　复旦大学中文系的严锋教授在发言中探讨了AI与文学的关系，严锋表示AI的出现跟创作主体的转移，或退隐有着直接的关系。从结构主义的观念来看，创作主体不是认识的中心，也不是写作的中心，而是结构当中的一个项。转换到文学上，即不是我在写文学作品，是文学作品在写我，这个文学作品是无数前辈们作品的累积。严锋认为，目前的AI尚且不能脱离写作者，成为一个新的创作主体；但在未来人类可能会在文学创作领域和AI展开更多合作。当读者有了更多的工具、手段、技术，去和作者进行合作以后，AI、作者、读者可能会形成新的三角关系。