令人忌惮的ChatGPT,将颠覆教育和学术界?
如果说ChatGPT已经让谷歌有了危机感,那么其自问世以来,无论是答疑解惑、撰写文章、编写代码,还是参与设计构造元宇宙,都不在话下。甚至其已经完全融入了一些人的日常工作流程。
然而,技术是一把双刃剑,百科全书式的聊天机器人ChatGPT在为一些人提供便利的同时,也无意中对社会造成了一些恶劣影响。目前,ChatGPT可根据提示生成几乎任何主题的原始文本,包括文章、论文、故事甚至诗歌,使用者在一定程度上也加剧了学术不端现象。
根据路透社1月27日的报道,法国精英学府巴黎政治大学周五宣布,该校已向所有学生和教师发送电子邮件,要求禁止使用ChatGPT等一切基于AI的工具,旨在防止学术欺诈和剽窃。
巴黎政治大学公告表示:“禁止学生使用该软件完成任何书面作业或演示文稿,除非是出于特定的课程目的,并有课程负责人监督。”该大学称,使用相关软件的学生或面临被开除的惩罚,甚至可能会被逐出法国高等教育体系。
拒之门外
在美国,为了测试ChatGPT应对四门课程考试的能力,明尼苏达大学法学院的教授最近让ChatGPT参加考试,并对考试结果进行了盲审。在完成95道选择题和12道作文题后,ChatGPT的平均成绩拿到了C+,这只能算及格水平。
而在宾夕法尼亚大学沃顿商学院的商业管理课程考试中,ChatGPT表现更好,获得了B到B-的成绩。沃顿商学院教授Christian Terwiesch表示,ChatGPT在回答基本的运营管理和流程分析问题方面做得“非常出色”,但在处理更高级的提示时表现不佳,并在基础数学方面犯了“令人惊讶的错误”,有些错误甚至仅仅是小学数学的水平。
随着ChatGPT不断迭代,且不加节制,可能会被学生用来完成作业和考试,甚至是毕业论文。为了避免其沦为史上最强大的作弊工具,在测试结果出炉之际,越来越多的学校和老师表达了对ChatGPT作弊能力的的担忧。例如,纽约市和西雅图的公立学校已经禁止学生和教师在学区的网络和设备上使用ChatGPT,一些美国大学则宣布计划增加手写论文和口头考试的比重。
而在学术界,ChatGPT将面临更严厉的规制!
美国学界知名期刊《科学》杂志的主编霍尔顿索普宣布了一项更新的编辑政策,禁止使用来自ChatGPT的文本,并表示ChatGPT不能被列为合作者。
霍尔顿索说,科学期刊都要求作者签署一份声明,承诺对自己的文章负责。“但由于 ChatGPT无法做到这一点,它不能成为作者。”他认为,即使在准备论文的阶段,使用ChatGPT也是有问题的,“ChatGPT犯了很多错误,这些错误可能会进入文献。”
另外一家出版了近3000种期刊的 Springer-Nature也发表声明称,不能将ChatGPT列为作者。
最为严厉的可能属于在线编程问答平台——Stack Overflow。早在ChatGPT推出不久,它就宣布全面封禁来自ChatGPT以及任何非人工生成的回答,并且进一步规定,一旦发现用户违反就会直接禁言。
怀有期待
虽然包括Nature在内的出版商明令禁止ChatGPT成为作者、不少高校也严禁用它写作业,但也有教授主动接纳了这一新产品。
据NPR(美国国家公共电台)介绍,来自宾夕法尼亚大学沃顿商学院的教授Ethan Mollick主动要求学生使用ChatGPT,帮助他们完成作业。他认为,AI永远不可能成为某个领域“最好的专家”。但通过努力,人类仍然可以成为某一领域的佼佼者。
上文中提到的Christian Terwiesch教授也表示,他赞同在学生参加考试时应该对他们实施限制。“禁令是必要的。”他说,“毕竟,当你授予医生学位时,你希望他们真的掌握了医学知识,而不是只知道如何使用聊天机器人。这同样适用于其他技能认证,包括法律和商业专业等。”
但Christian Terwiesch相信这项技术最终仍会出现在课堂上,“如果我们最终得到的只是和以前一样的教育系统,那么我们就浪费了ChatGPT带来的绝佳机会。”
总结
针对一些负面的反馈,ChatGPT 的所有者?OpenAI 正在努力开发缓解措施,帮助人们检测由 AI 自动生成的文本。OpenAI CEO Sam Altman 提出将尝试水印技术和其他技术来标记 ChatGPT 生成的内容,但坦言不可能做到完美。
与此同时,AI技术已然在影响各个行业,并与现行世界的融合逐渐加深。在一档名为The Crypto Mile的节目中,全球广告传播巨头WPP的首席AI官Daniel Hulme就表示ChatGPT是一个大型语言模型,并认为该模型将是革命性的。
毕竟,未来衡量成功的标准是个人或组织快速适应不断变化的世界的能力。他也直言,人工智能的颠覆性力量可能会自动取代人们今天从事的许多工作,所以社会需要从中找到平衡,避免潜在的社会动荡。