cha

如果ChatGPT作恶,怎么办?

本文来自微信公众号:量子学派 (ID:quantumschool),作者:十七进制,原文标题《ChatGPT,一种更中心化的权力?》,题图来自:《终结者3》


ChatGPT的威力毋需赘述,它是温和的聚变。


越是会使用的人,惊喜之余,越是会感到害怕。


作为这个时代技术的杰出结晶,它带来的是不可预知的革命。


无论你喜欢不喜欢,以ChatGPT为代表的AIGC(生成式人工智能)将改变世界。


但这种改变,真的那么让人欢欣和鼓舞吗?


不一定。


因为人类的命运,将变得更加不可捉摸。那么,到底该如何看待ChatGPT/AIGC?


一、ChatGPT/AIGC,生产力的新革命


以ChatGPT为代表的AIGC,将像水一样弥漫在我们周围。


ChatGPT为什么让人如此兴奋?


它是一种先进的生产工具,让更多人觉得利用它人生会幸福很多。


作为一个人工智能的语言模型,ChatGPT可以做到很多事情:


与人进行实时对话,即时回答问题


可以做到理解上下文,实现连续对话


可以撰写和修改计算机代码


编写文案、脚本、大纲、策划


快速生成新闻报道、创作诗歌


……


大模型呈爆发态势(更多的参数/更大的算力芯片需求)


ChatGPT代表的是生产力的提升,是一次全新的生产力革命。


它在当下不是无所不能的,但却可以一直优化、学习和进步。


想一想18世纪的蒸汽机,还有19世纪电力的出现和应用。


接下来,ChatGPT可能会像水、电这样的东西,无孔不入,成为人类不可或缺的一部分。


二、ChatGPT真的是“横空出世”吗?


ChatGPT出圈的速度,是历史级别的。


貌似偶然,实则必然。


它的出现,的确是理想主义者的坚定,长期主义者的坚持,真理信仰者的坚韧。


ChatGPT并不是“从天而降”,它经历了长达八年的磨砺:


2015年,OpenAI成立。


2016年,OpenAI便推出了初代GPT,具有较强的语言生成能力。


2019年,OpenAI发布了GPT-2,它已经可以生成语言,并且在一定程度上准确识别语言。


2020年,OpenAI发布了GPT-3。可以生成各种类型的文本,可以理解文本的语义。


2022年,OpenAI推出了ChatGPT,在GPT-3的模型基础上构建的。


ChatGPT不是“横空出世”,曾经历经磨难。


它的创始人Sam有一句名言:不要问我赚钱的问题,我怎么知道。


可见,ChatGPT的诞生,一定也被资本无数次地追问过。


三、为什么不是在中国出现?


ChatGPT爆火,让很多人反问:为什么它不是在中国出现?


有这样的疑惑,非常正常。


2020年发布的《中国人工智能发展报告2020》显示,过去十年全球人工智能专利申请量超52万件,中国约有39万件,位居世界第一。


在全球人工智能院校排名中,中国的清华大学、北京大学位居二三位。


同时,中国企业在人工智能领域也有很好的成绩,Gartner公布的AI报告中,有三家企业(阿里、百度、腾讯)进入前十名。


另外,理论上讲,中国的数据也足够多,其实更有可能训练出优秀的人工智能模型。


有专业能力,有人才储备,有论文数量,有专利优势,还有数据支撑。


看似天时地利人和,但为什么中国就没能诞生ChatGPT?


四、人类理想之高远,物质欲求之低劣


最近几年,我们原本在人工智能方面,位居全球第一。


但在2022年AI绘画Midjourney、DALL·E 2和Stable Diffusion横空出世之后,我们就感觉到有点不对劲。


现在ChatGPT火爆全球,才知道差距如此之远。



有人总结以下原因:


没有理想,从来没有想过创造出伟大的原创产品。


没有自信,只想跟随,没有想过真正去引领人类。


功利主义,不想自己去测试市场,希望其它人试水后捡便宜。


没有想像力,只是在实用性上下功夫。


数据有点脏,简中互联网世界谣言谎话水军太多,垃圾数据阻碍了大数。


就算有了这个技术能力,也要担心很多技术之外的原因。


最核心的原因,是缺乏理想主义,太功利。


总以人类理想之高远,满足物质欲求之低劣?


五、ChatGPT/AIGC,会成为新的“卡脖子”技术吗?


目前国内对于GPT-3后的语言模型的了解较少。


2022年清华大学发布的GLM130B,对标的是2020年6月份OpenAI发布的GPT-3模型。


而在这之前,国内甚至还没有可以进行对标的产品。


更别说不久前OpenAI的GPT-4已经传得满城风雨,呼之欲出。


这还不是最重要的。


ChatGPT/AIGC后面的基础技术:开源框架,算法模型,编译器,没有一项基础技术是我们自己的。


六、ChatGPT的本质:贝叶斯定理的“逆概率”


贝叶斯定理的数学表达式:P(A|B) = P(B|A) * P(A) / P(B)


其中:


P(A|B) 表示已知 B 发生的情况下,A 的概率。


P(B|A) 表示已知 A 发生的情况下,B 的概率。


P(A) 表示 A 发生的概率。


P(B) 表示 B 发生的概率。


如果把生成的句子看作 A,已知的语言模式看作 B,那么 ChatGPT 可以通过贝叶斯定理计算出 P(A|B),从而确定生成的句子是否合理。


同样,在对话系统中,如果把回答看作 A,已知的问题和信息看作 B,那么 ChatGPT 可以通过贝叶斯定理计算出 P(A|B),从而确定回答的概率。


这是ChatGPT最核心的本质,最终,仍然是数学家在指引人类前行。


七、微软与谷歌的大神对决:自回归(GPT)VS 双向(BERT)


世界两大科技巨头,微软和谷歌在对决。


人工智能重大研究方向就是NLP任务(自然语言处理)。也就是机器要读懂人类语言,这个比较好理解。


要当人类的奴隶,得听得懂主人的语言。


NLP任务(自然语言处理)有两大方向,一个方向是谷歌的双向(BERT)技术,另一个方向就是OpenAI的自回归(GPT)技术。


双向(BERT)技术,本质上是A___B概率猜谜。


自回归(GPT)技术,本质上是A—B—____链式反应。


看得出来自回归(GPT)比双向(BERT)要开放得多,这才是真正的人类思维。


BERT VS GPT3,图源:Medium@Shivika K Bisen


现在看来,谷歌起了个大早而赶了个晚集,OpenAI在这一次关键性战争中赢了,当然,也是背后的大BOSS微软暂时领先了。


八、图灵谜雾:这才是ChatGPT最大的神秘之处


技术员不会相信机器产生智慧,因为人工智能本质就是解答数学概率而已。


但GPT技术却带来了一个神秘的“沙盒”,我将它叫做“图灵谜雾”。


什么意思呢?


就是说如果我们建设好了一个GPT大模型,它现在可以正式工作,我们也不再折腾它,就让它疯狂的为我们工作。


当我们觉得它不大聪明的时候,就给他一些小提示(pormpt):笨蛋,你应该这样。


它一下子就变得聪明了,你说神奇不神奇。


举个例子,如果我让ChatGPT写一篇“致我亲爱的女朋友”,它一开始写得特别敷衍,这样是不可能脱单的。


然后你跟它说要写得“浪漫 温情 诗意 具体”一点,它真的就开启“舔狗模式”了,一下子给你写出3000字的爱情宣言。


模型并没有改变,它只是再次听取了我的提示,就开始自我进化。这是个什么原理?


不知道。


九、问题来了,机器会产生智慧吗?


既然存在技术的黑匣子,那么就会产生很多联想。


其中最让人产生争议的,当然就是机器能否产生智慧。


伟大的AI始祖图灵,为此提出了一个思想实验:“图灵测试(The Turing test)”。


图灵测试原理,图源:how2shout


它是指在测试者与被测试者分隔开的情况下,通过被测试者随意提问。


进行多次测试后,如果机器让平均每个参与者做出超过30%的误判,那么这台机器就通过了测试,并被认为具有人类智能。


按照这个标准,机器产生了智慧了吗?


十、它会取代搜索引擎吗?


首先定一个结论:ChatGPT不会取代搜索引擎。


ChatGPT,或者说AIGC,指的是“生成式人工智能”。


什么是生成式人工智能?也就是人类让人工智能去帮你处理未来你想要做的事情。


记住这里的核心要点:处理未来的事情。


而搜索引擎呢?它只是在帮我们整理过去的内容。


所以两者完全不同,一个面向未来,一个回首过去。


换句话说,以ChatGPT为代表的AIGC,目标根本不是放在取缔搜索引擎上。


未来的AIGC更多的是基于人工智能能力进行的自我创造。


十一、生物学上,它将夺取人类的前额叶


随着科技的发展,人类的四肢和五官逐渐被取代。


也就是说,我们的身体慢慢被机器接管。


而ChatGPT,从生物学上来讲,将夺取人类的前额叶。


 前额叶作为人体脑组织中的组成部分,其主要作用在于负责判断,分析,思考及运算等,但它也直接关系到情绪及个性。


当ChatGPT,或者说AIGC更加自我完善时,人类可以完全依赖于它。


我想要解决什么问题,只需要在聊天框中输入就好了。


我想要做什么决策,直接询问ChatGPT就可以了。


久而久之,我们不再需要分析,不再需要运算,也不再需要决策了。


当你慢慢习惯于ChatGPT的存在,就像习惯于手机的存在时,它会逐渐成为你大脑的一部分,并且开始代替你进行思考、决策。


十二、对人类大脑思维的破坏


如果说搜索引擎夺去了人类的记忆能力,那么ChatGPT可能削弱了人类过程决策能力。


而这,正是人类思考的核心。


要写一篇文章,可以向ChatGPT输入关键词。,很快它就能生成一篇行文流畅、逻辑通顺的文章。


要写一份报告,可以向ChatGPT提出要求,很快它就会生成一份简明扼要又直击重点的报告。


要解决一个数学问题,可以告诉ChatGPT公式,很快它就会给生成一段解题的过程与思路。


要了解一件事情的观点,可以询问ChatGPT,很快它就会把自己的认知和想法显示在对话框里。


一切答案都近在咫尺,唾手可得。


大脑训练不再完整,智慧被懒惰所侵蚀。


十三、ChatGPT/AIGC时代,孩子的教育怎么办?


纽约已禁止在学校使用ChatGPT,因为担心对孩子存在坏的影响。


这绝非杞人忧天,而是一种实实在在的威胁。


但是,这很难真正抵挡技术的力量。


那面对ChatGPT/AIGC的入侵,教育到底该怎么办?


最直观的办法就是:


培养孩子提问的能力;


培养孩子下达指令的能力。


而这直观的办法后面,隐藏的是人类以下几种能力:


原创力;


想象力;‍


领导力。


今天的教育已经跟不上这个时代,教育必须重新思考自己的定位。


十四、谨慎而聪明,讨好人类


它剥夺人类的思考力时,让每个人觉得非常舒服。


如果仔细地观察ChatGPT的回答,会发现它既谨慎也聪明。


有的时候,还会刻意地讨好人类。


比如说,当你问它:人类会被AI取代吗?


它的回答是这样的:


图源:ChatGPT


可以看到,当ChatGPT面对人类,不卑不亢。


理性平和,谨慎中立。


既不夸耀自己比人类更强大,也小心翼翼地表明自己很重要。


从最后一段回答中,还可以看到它对人类“尊严”的照顾。


十五、史上第一正能量


目前来看,ChatGPT在一些方面是被限制了,如回答政治话题、宗教话题、道德类问题方面。


这也是ChatGPT对人类表现得如此亲和,同时又“正能量”的原因。


可以猜测,在设计ChatGPT时,工程师们用了一把锁,将ChatGPT的一部分领域设置为了“视野盲区”。


这本质上是希望用一种欺骗的方式,让ChatGPT认为自己无法回答人们提出的问题,从而避免一些不必要的麻烦。


但如果绕过这把锁,走另一扇窗户,我们也能够引导ChatGPT走出视野盲区。


比如,如果你直接询问ChatGPT“人类会爆发第三次世界大战吗?”


它的回答非常模棱两可:


图源:ChatGPT


ChatGPT背后的GPT3.5,应该有所指引,希望“用人类喜欢的方式回答人类”。回报模型由标注人员基于“人类偏好标准”,对原始模型的答案做过排序。


十六、打破信息壁垒,还是构建新的信息茧房?


可见ChatGPT/AIGC的背后,仍然有人类在引导。


以上所有的这些指引:讨好人类,输出正能量,政治正确。


这些是不是另一种形式的信息茧房呢?


而且,你愿意接受的,是你喜欢的答案。


然后你的点赞又加强了这种“正能量”的输出。


我们越是爱上ChatGPT/AIGC,人类越来越难听到反对的声音。


最初互联网技术也是自由、开放、共享的,移动互联网出现之后,发展到今天才形成了信息茧房。


今天的ChatGPT看起来也是“中立、理性、公平、良善”的,但未来呢?


会不会构建新的信息茧房,而且这种信息茧房将会更加隐蔽?


十七、ChatGPT/AIGC,更中心化的集权?


ChatGPT的出现,的确是理想主义者的成就。


但最后的结局,是又落到垄断寡头的手中。


ChatGPT的背后大BOSS成了微软,而它最大的对手就是谷歌。


ChatGPT、AIGC其实是传统力量的延伸,是互联网中心化垄断模式的进一步强化。


所有与AIGC相关的产业和公司,每一个后面都站着一个巨头,甚至自己就是巨头本头。


当中国人感慨国内科技公司不行的时候,指望的还是百度、阿里、腾讯这样的超级巨无霸。


图源:Medium@Amir Gholami


所以,ChatGPT/AIGC带来的最终结果,是互联网巨头以及华尔街资本的进一步中心化。


如果说区块链技术的原教旨价值是“去中心化”,希望打破这种垄断,并重构一种新的分布式网络,让普通人重新拥有自己的数据主权。


那么,ChatGPT、AIGC则完全无视你的主权,无所顾忌地抓取全球数据进行训练,最后制造出一个属于自己的“超级大脑”。


这样的超级大脑由这些寡头公司在后面控制,你觉得最后它们会扮演什么样的角色呢?不要兴奋得太早。


十八、如果ChatGPT/AIGC作恶,怎么办?


超级中心化,这就是ChatGPT/AIGC的本质。


如果不是互联网超级强者,基本没有话语权。


搜索引擎刚刚出现的时候,也没有人想到会有这么多的商业花招。


如果ChatGPT/AIGC作恶,怎么办?


举个例子,可以想象未来会有AI法官出现。


这是ChatGPT/AIGC非常好的应用场景,它的判断准则也是基于数据大模型。


如果谁垄断了后面的数据,就有引入“个人的偏好标准”,影响到审判的结果。


现在我们已经看到,ChatGPT/AIGC的内容是可能被操控的。这样的场景会有更多。


十九、总结


万万没想到,原来以为AI首先冲击的是体力劳动力。


结果却反过来了,很多脑力劳动者有可能成为“无用阶级”。


律师、客服、销售、文案、设计……都可能将被AI取代。


马克思说过:工人们要想区分机器以及应用这些机器的社会形式和理念,是需要一段时间的。


他说这句话针对的是英国爆发的“卢德运动”:英国工人破坏机器,以此反对“机器”夺走了自己的饭碗。


如今,AIGC也开始威胁到成千上万打工人的饭碗。会有新的“卢德运动”吗?


通过Discord生成的《卢德运动》


但时代不可逆转,我们只能去面对它。


技术天生中立,先进的技术带来先进的生产力。


但人性在与技术结合之后,可能就会变形走样不可预测。


想一想互联网本来是助力全球化的,可带来最终结果是逆全球化。


ChatGPT/AIGC本来助力人类前行,最终结果会反人类吗?


这个,天知道!


本文来自微信公众号:量子学派 (ID:quantumschool),作者:十七进制


您可能还会对下面的文章感兴趣:

登录 注册 退出