如果ChatGPT作恶，怎么办？

本文来自微信公众号：量子学派 （ID：quantumschool），作者：十七进制，原文标题《ChatGPT，一种更中心化的权力？》，题图来自：《终结者3》

ChatGPT的威力毋需赘述，它是温和的聚变。

越是会使用的人，惊喜之余，越是会感到害怕。

作为这个时代技术的杰出结晶，它带来的是不可预知的革命。

无论你喜欢不喜欢，以ChatGPT为代表的AIGC（生成式人工智能）将改变世界。

但这种改变，真的那么让人欢欣和鼓舞吗？

不一定。

因为人类的命运，将变得更加不可捉摸。那么，到底该如何看待ChatGPT/AIGC？

一、ChatGPT/AIGC，生产力的新革命

以ChatGPT为代表的AIGC，将像水一样弥漫在我们周围。

ChatGPT为什么让人如此兴奋？

它是一种先进的生产工具，让更多人觉得利用它人生会幸福很多。

作为一个人工智能的语言模型，ChatGPT可以做到很多事情：

与人进行实时对话，即时回答问题

可以做到理解上下文，实现连续对话

可以撰写和修改计算机代码

编写文案、脚本、大纲、策划

快速生成新闻报道、创作诗歌

……

大模型呈爆发态势（更多的参数/更大的算力芯片需求）

ChatGPT代表的是生产力的提升，是一次全新的生产力革命。

它在当下不是无所不能的，但却可以一直优化、学习和进步。

想一想18世纪的蒸汽机，还有19世纪电力的出现和应用。

接下来，ChatGPT可能会像水、电这样的东西，无孔不入，成为人类不可或缺的一部分。

二、ChatGPT真的是“横空出世”吗？

ChatGPT出圈的速度，是历史级别的。

貌似偶然，实则必然。

它的出现，的确是理想主义者的坚定，长期主义者的坚持，真理信仰者的坚韧。

ChatGPT并不是“从天而降”，它经历了长达八年的磨砺：

2015年，OpenAI成立。

2016年，OpenAI便推出了初代GPT，具有较强的语言生成能力。

2019年，OpenAI发布了GPT-2，它已经可以生成语言，并且在一定程度上准确识别语言。

2020年，OpenAI发布了GPT-3。可以生成各种类型的文本，可以理解文本的语义。

2022年，OpenAI推出了ChatGPT，在GPT-3的模型基础上构建的。

ChatGPT不是“横空出世”，曾经历经磨难。

它的创始人Sam有一句名言：不要问我赚钱的问题，我怎么知道。

可见，ChatGPT的诞生，一定也被资本无数次地追问过。

三、为什么不是在中国出现？

ChatGPT爆火，让很多人反问：为什么它不是在中国出现？

有这样的疑惑，非常正常。

2020年发布的《中国人工智能发展报告2020》显示，过去十年全球人工智能专利申请量超52万件，中国约有39万件，位居世界第一。

在全球人工智能院校排名中，中国的清华大学、北京大学位居二三位。

同时，中国企业在人工智能领域也有很好的成绩，Gartner公布的AI报告中，有三家企业（阿里、百度、腾讯）进入前十名。

另外，理论上讲，中国的数据也足够多，其实更有可能训练出优秀的人工智能模型。

有专业能力，有人才储备，有论文数量，有专利优势，还有数据支撑。

看似天时地利人和，但为什么中国就没能诞生ChatGPT？

四、人类理想之高远，物质欲求之低劣

最近几年，我们原本在人工智能方面，位居全球第一。

但在2022年AI绘画Midjourney、DALL·E 2和Stable Diffusion横空出世之后，我们就感觉到有点不对劲。

现在ChatGPT火爆全球，才知道差距如此之远。

有人总结以下原因：

没有理想，从来没有想过创造出伟大的原创产品。

没有自信，只想跟随，没有想过真正去引领人类。

功利主义，不想自己去测试市场，希望其它人试水后捡便宜。

没有想像力，只是在实用性上下功夫。

数据有点脏，简中互联网世界谣言谎话水军太多，垃圾数据阻碍了大数。

就算有了这个技术能力，也要担心很多技术之外的原因。

最核心的原因，是缺乏理想主义，太功利。

总以人类理想之高远，满足物质欲求之低劣？

五、ChatGPT/AIGC，会成为新的“卡脖子”技术吗？

目前国内对于GPT-3后的语言模型的了解较少。

2022年清华大学发布的GLM130B，对标的是2020年6月份OpenAI发布的GPT-3模型。

而在这之前，国内甚至还没有可以进行对标的产品。

更别说不久前OpenAI的GPT-4已经传得满城风雨，呼之欲出。

这还不是最重要的。

ChatGPT/AIGC后面的基础技术：开源框架，算法模型，编译器，没有一项基础技术是我们自己的。

六、ChatGPT的本质：贝叶斯定理的“逆概率”

贝叶斯定理的数学表达式：P(A|B) = P(B|A) * P(A) / P(B)

其中：

P(A|B) 表示已知 B 发生的情况下，A 的概率。

P(B|A) 表示已知 A 发生的情况下，B 的概率。

P(A) 表示 A 发生的概率。

P(B) 表示 B 发生的概率。

如果把生成的句子看作 A，已知的语言模式看作 B，那么 ChatGPT 可以通过贝叶斯定理计算出 P(A|B)，从而确定生成的句子是否合理。

同样，在对话系统中，如果把回答看作 A，已知的问题和信息看作 B，那么 ChatGPT 可以通过贝叶斯定理计算出 P(A|B)，从而确定回答的概率。

这是ChatGPT最核心的本质，最终，仍然是数学家在指引人类前行。

七、微软与谷歌的大神对决：自回归（GPT）VS 双向（BERT）

世界两大科技巨头，微软和谷歌在对决。

人工智能重大研究方向就是NLP任务（自然语言处理）。也就是机器要读懂人类语言，这个比较好理解。

要当人类的奴隶，得听得懂主人的语言。

NLP任务（自然语言处理）有两大方向，一个方向是谷歌的双向（BERT）技术，另一个方向就是OpenAI的自回归（GPT）技术。

双向（BERT）技术，本质上是A___B概率猜谜。

自回归（GPT）技术，本质上是A—B—____链式反应。

看得出来自回归（GPT）比双向（BERT）要开放得多，这才是真正的人类思维。

BERT VS GPT3，图源：Medium@Shivika K Bisen

现在看来，谷歌起了个大早而赶了个晚集，OpenAI在这一次关键性战争中赢了，当然，也是背后的大BOSS微软暂时领先了。

八、图灵谜雾：这才是ChatGPT最大的神秘之处

技术员不会相信机器产生智慧，因为人工智能本质就是解答数学概率而已。

但GPT技术却带来了一个神秘的“沙盒”，我将它叫做“图灵谜雾”。

什么意思呢？

就是说如果我们建设好了一个GPT大模型，它现在可以正式工作，我们也不再折腾它，就让它疯狂的为我们工作。

当我们觉得它不大聪明的时候，就给他一些小提示（pormpt）：笨蛋，你应该这样。

它一下子就变得聪明了，你说神奇不神奇。

举个例子，如果我让ChatGPT写一篇“致我亲爱的女朋友”，它一开始写得特别敷衍，这样是不可能脱单的。

然后你跟它说要写得“浪漫 温情 诗意 具体”一点，它真的就开启“舔狗模式”了，一下子给你写出3000字的爱情宣言。

模型并没有改变，它只是再次听取了我的提示，就开始自我进化。这是个什么原理？

不知道。

九、问题来了，机器会产生智慧吗？

既然存在技术的黑匣子，那么就会产生很多联想。

其中最让人产生争议的，当然就是机器能否产生智慧。

伟大的AI始祖图灵，为此提出了一个思想实验：“图灵测试（The Turing test）”。

图灵测试原理，图源：how2shout

它是指在测试者与被测试者分隔开的情况下，通过被测试者随意提问。

进行多次测试后，如果机器让平均每个参与者做出超过30%的误判，那么这台机器就通过了测试，并被认为具有人类智能。

按照这个标准，机器产生了智慧了吗？

十、它会取代搜索引擎吗？

首先定一个结论：ChatGPT不会取代搜索引擎。

ChatGPT，或者说AIGC，指的是“生成式人工智能”。

什么是生成式人工智能？也就是人类让人工智能去帮你处理未来你想要做的事情。

记住这里的核心要点：处理未来的事情。

而搜索引擎呢？它只是在帮我们整理过去的内容。

所以两者完全不同，一个面向未来，一个回首过去。

换句话说，以ChatGPT为代表的AIGC，目标根本不是放在取缔搜索引擎上。

未来的AIGC更多的是基于人工智能能力进行的自我创造。

十一、生物学上，它将夺取人类的前额叶

随着科技的发展，人类的四肢和五官逐渐被取代。

也就是说，我们的身体慢慢被机器接管。

而ChatGPT，从生物学上来讲，将夺取人类的前额叶。

 前额叶作为人体脑组织中的组成部分，其主要作用在于负责判断，分析，思考及运算等，但它也直接关系到情绪及个性。

当ChatGPT，或者说AIGC更加自我完善时，人类可以完全依赖于它。

我想要解决什么问题，只需要在聊天框中输入就好了。

我想要做什么决策，直接询问ChatGPT就可以了。

久而久之，我们不再需要分析，不再需要运算，也不再需要决策了。

当你慢慢习惯于ChatGPT的存在，就像习惯于手机的存在时，它会逐渐成为你大脑的一部分，并且开始代替你进行思考、决策。

十二、对人类大脑思维的破坏

如果说搜索引擎夺去了人类的记忆能力，那么ChatGPT可能削弱了人类过程决策能力。

而这，正是人类思考的核心。

要写一篇文章，可以向ChatGPT输入关键词。，很快它就能生成一篇行文流畅、逻辑通顺的文章。

要写一份报告，可以向ChatGPT提出要求，很快它就会生成一份简明扼要又直击重点的报告。

要解决一个数学问题，可以告诉ChatGPT公式，很快它就会给生成一段解题的过程与思路。

要了解一件事情的观点，可以询问ChatGPT，很快它就会把自己的认知和想法显示在对话框里。

一切答案都近在咫尺，唾手可得。

大脑训练不再完整，智慧被懒惰所侵蚀。

十三、ChatGPT/AIGC时代，孩子的教育怎么办？

纽约已禁止在学校使用ChatGPT，因为担心对孩子存在坏的影响。

这绝非杞人忧天，而是一种实实在在的威胁。

但是，这很难真正抵挡技术的力量。

那面对ChatGPT/AIGC的入侵，教育到底该怎么办？

最直观的办法就是：

培养孩子提问的能力；

培养孩子下达指令的能力。

而这直观的办法后面，隐藏的是人类以下几种能力：

原创力；

想象力；‍

领导力。

今天的教育已经跟不上这个时代，教育必须重新思考自己的定位。

十四、谨慎而聪明，讨好人类

它剥夺人类的思考力时，让每个人觉得非常舒服。

如果仔细地观察ChatGPT的回答，会发现它既谨慎也聪明。

有的时候，还会刻意地讨好人类。

比如说，当你问它：人类会被AI取代吗？

它的回答是这样的：

图源：ChatGPT

可以看到，当ChatGPT面对人类，不卑不亢。

理性平和，谨慎中立。

既不夸耀自己比人类更强大，也小心翼翼地表明自己很重要。

从最后一段回答中，还可以看到它对人类“尊严”的照顾。

十五、史上第一正能量

目前来看，ChatGPT在一些方面是被限制了，如回答政治话题、宗教话题、道德类问题方面。

这也是ChatGPT对人类表现得如此亲和，同时又“正能量”的原因。

可以猜测，在设计ChatGPT时，工程师们用了一把锁，将ChatGPT的一部分领域设置为了“视野盲区”。

这本质上是希望用一种欺骗的方式，让ChatGPT认为自己无法回答人们提出的问题，从而避免一些不必要的麻烦。

但如果绕过这把锁，走另一扇窗户，我们也能够引导ChatGPT走出视野盲区。

比如，如果你直接询问ChatGPT“人类会爆发第三次世界大战吗？”

它的回答非常模棱两可：

图源：ChatGPT

ChatGPT背后的GPT3.5，应该有所指引，希望“用人类喜欢的方式回答人类”。回报模型由标注人员基于“人类偏好标准”，对原始模型的答案做过排序。

十六、打破信息壁垒，还是构建新的信息茧房？

可见ChatGPT/AIGC的背后，仍然有人类在引导。

以上所有的这些指引：讨好人类，输出正能量，政治正确。

这些是不是另一种形式的信息茧房呢？

而且，你愿意接受的，是你喜欢的答案。

然后你的点赞又加强了这种“正能量”的输出。

我们越是爱上ChatGPT/AIGC，人类越来越难听到反对的声音。

最初互联网技术也是自由、开放、共享的，移动互联网出现之后，发展到今天才形成了信息茧房。

今天的ChatGPT看起来也是“中立、理性、公平、良善”的，但未来呢？

会不会构建新的信息茧房，而且这种信息茧房将会更加隐蔽？

十七、ChatGPT/AIGC，更中心化的集权？

ChatGPT的出现，的确是理想主义者的成就。

但最后的结局，是又落到垄断寡头的手中。

ChatGPT的背后大BOSS成了微软，而它最大的对手就是谷歌。

ChatGPT、AIGC其实是传统力量的延伸，是互联网中心化垄断模式的进一步强化。

所有与AIGC相关的产业和公司，每一个后面都站着一个巨头，甚至自己就是巨头本头。

当中国人感慨国内科技公司不行的时候，指望的还是百度、阿里、腾讯这样的超级巨无霸。

图源：Medium@Amir Gholami

所以，ChatGPT/AIGC带来的最终结果，是互联网巨头以及华尔街资本的进一步中心化。

如果说区块链技术的原教旨价值是“去中心化”，希望打破这种垄断，并重构一种新的分布式网络，让普通人重新拥有自己的数据主权。

那么，ChatGPT、AIGC则完全无视你的主权，无所顾忌地抓取全球数据进行训练，最后制造出一个属于自己的“超级大脑”。

这样的超级大脑由这些寡头公司在后面控制，你觉得最后它们会扮演什么样的角色呢？不要兴奋得太早。

十八、如果ChatGPT/AIGC作恶，怎么办？

超级中心化，这就是ChatGPT/AIGC的本质。

如果不是互联网超级强者，基本没有话语权。

搜索引擎刚刚出现的时候，也没有人想到会有这么多的商业花招。

如果ChatGPT/AIGC作恶，怎么办？

举个例子，可以想象未来会有AI法官出现。

这是ChatGPT/AIGC非常好的应用场景，它的判断准则也是基于数据大模型。

如果谁垄断了后面的数据，就有引入“个人的偏好标准”，影响到审判的结果。

现在我们已经看到，ChatGPT/AIGC的内容是可能被操控的。这样的场景会有更多。

十九、总结

万万没想到，原来以为AI首先冲击的是体力劳动力。

结果却反过来了，很多脑力劳动者有可能成为“无用阶级”。

律师、客服、销售、文案、设计……都可能将被AI取代。

马克思说过：工人们要想区分机器以及应用这些机器的社会形式和理念，是需要一段时间的。

他说这句话针对的是英国爆发的“卢德运动”：英国工人破坏机器，以此反对“机器”夺走了自己的饭碗。

如今，AIGC也开始威胁到成千上万打工人的饭碗。会有新的“卢德运动”吗？

通过Discord生成的《卢德运动》

但时代不可逆转，我们只能去面对它。

技术天生中立，先进的技术带来先进的生产力。

但人性在与技术结合之后，可能就会变形走样不可预测。

想一想互联网本来是助力全球化的，可带来最终结果是逆全球化。

ChatGPT/AIGC本来助力人类前行，最终结果会反人类吗？

这个，天知道！

本文来自微信公众号：量子学派 （ID：quantumschool），作者：十七进制