按下GPT暂停键：马斯克签名的这封信，切莫断章取义｜人工智能｜定律｜伊隆

　　文 ｜ 吴飞（浙江大学计算机科学与技术学院教授）

　　3月底，美国生命未来研究所网站上张贴了一封公开信，认为当前人工智能研究未能正视阿西洛马人工智能原则，呼吁所有人工智能实验室暂停研发比GPT-4更强大的人工智能系统至少6个月。这一公开信获得了埃隆·马斯克、苹果联合创办人斯蒂夫·沃兹尼亚克等2800多人的签名支持。

　　这封公开信提出了如下4个令人深刻思考的问题：是否应该让机器用宣传和谎言充斥我们的信息渠道、是否应该自动化所有工作、是否应该发展最终可能超过并取代我们的非人类思维、是否应该冒险失去对文明的控制。

　　在这4个问题中，机器通过机械匹配所合成的非事实内容已经出现，另外3个问题离我们还很久远。从长远来看，应该肯定这封公开信所作出的思考，但是不应该对这封信断章取义。

　　人工智能的双重属性

　　人工智能在赋能社会进步和经济发展过程中，带来的伦理学讨论是人类与自身发明的一种产品在社会中所构成的关联。人工智能具有技术性和社会性双重属性，人与机、机与机以及人机共融所形成的社会形态应遵守道德准则和法律法规。

　　1942年，科幻小说作家阿西莫夫在小说《环舞》中首次提出了3条定律：机器人不得伤害人类，或因不作为使人类受到伤害；在不违背第一定律前提下，机器人必须服从人类的命令；在不违背第一和第二定律的前提下，机器人必须保护自己。后来，阿西莫夫又加入了一条新定律：第零定律，即机器人不得伤害人类整体，或因不作为使人类整体受到伤害。

　　2017年1月，在美国加利福尼亚州阿西洛马举行的Beneficial AI会议上，由生命未来研究所牵头、近千名人工智能和机器人领域的专家联合签署了阿西洛马人工智能23条原则，呼吁全世界在发展人工智能的同时严格遵守这些原则，共同保障人类未来的伦理、利益和安全。阿西洛马人工智能原则是阿西莫夫定律的扩展版本。

　　这些定律和原则体现了将先进技术应用于人类社会要遵循准则这一良好愿望，但显然很难执行，因为机器人无法理解。

　　GPT：技术创新与生态变革

　　ChatGPT和GPT-4创新性整合大数据、大模型和大算力，按照“共生则关联”挖掘单词-单词或者视觉信息-文本单词之间的共生概率，辅以人类反馈信息，以机器智能通过统计关联完成了语言合成、图像绘制和内容推荐等任务，体现了当前人工智能发展过程中“数据是燃料、模型是引擎、算力是加速器”的特点。

　　目前人们对ChatGPT以千亿级参数具备内容合成这一能力的涌现机理尚无法清楚了解，因此ChatGPT被称为现象级人工智能产品。

　　OpenAI首席科学家兼联合创始人伊利亚·苏茨科弗接受采访时曾表示，预测能力是人工智能最为重要的一种能力，能预测下一个单词就意味着GPT理解了自然语言内容。

　　人类进入信息时代以来，先后通过键盘（文字输入）和鼠标（图形界面）与信息交互。ChatGPT的出现使人们可用自然语言与信息世界交互，人工智能这一使能能力第一次在聊天、虚拟助理、语言翻译和内容生成等方面助力每一名普通用户，成为像水和电一样的通用资源。

　　随着ChatGPT与不同领域App结合，并整合不同领域的实时数据，如旅行软件、购物软件、支付软件、在线订餐平台等，就演变为xGPT。未来人们不必再去下载和使用各种App与网站，互联网的统一入口由不同xGPT开启，每个人都可通过自然语言连接所需的互联网信息，极大改变了生活、生产和工作的生态。

　　“红旗法案”之悲

　　一般而言，社会意识落后于社会存在，如历史上有名的“红旗法案”。

　　19世纪汽车刚被发明出来时，不少人忧心忡忡，认为汽车会给人类社会带来重重危险。因此，1865年英国议会通过了一部被称为“红旗法案”的《机动车法案》。法案规定，每辆在道路上行驶的机动车，必须由3个人驾驶，并且速度不能超过6.4公里/小时。“红旗法案”使汽车工业发展几乎处于停滞状态，在英国汽车发展史上留下了可悲的一页。

　　这种由技术进步带来的负面感觉被称为“技术恐惧”。

　　人类总是习惯于线性思维，这很容易出现认知偏差。其中最常见的认知偏差是对技术近期与远期影响的判断出现不对称性。这个关系被美国科学家罗伊·阿玛拉发现，并形成了所谓的阿玛拉法则，即短期内人们倾向于高估技术的影响，长期则会低估技术的影响。

　　ChatGPT的出现将使人类社会诸多业务模式发生一次变革，同样为奇妙的“多样性”打开了一扇窗户。按下GPT暂停键应视为对人工智能长远健康发展的一次深思，而不是一次具体行为。

　　人是人和人造物的协调者

　　美国数学家和哲学家诺伯特·维纳在1950年出版了一本极具洞察力的著作《人有人的用处——控制论与社会》，希望人类在技术世界的环绕中更有尊严、更有人性，而不是相反。

　　机器是人类创造出来的，人类的作用就是在人和机器共处的社会中，不断用知识强化机器。我们需要用进化观点去看待这个过程，最大限度发展种种可能性，而不是陷入“人机相斗”和“人机相害”的臆想中。

　　作为精确刻画智能行为且通过机器实现智能行为的人类，是不可能被取代的。人类始终是人工智能高度、广度和深度的总开关与决定者，也是人和人造物的协调者。因此，我们一方面要警惕“人工智能等同于人类大脑”“人工智能奴役人类”的杞人忧天之举，另一方面要善于利用人工智能这一人类帮手，在“人机协同”中创造更加美好的未来。

　　《中国科学报》 (2023-04-03?第1版?要闻)

　　特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。