cha

图灵奖得主发起,马斯克公开支持:必须暂停ChatGPT等所有AI系统的研发!

  随着ChatGPT的横空出世,人工智能目前几乎一天一个台阶,向着人类不可预测的方向发展。

  近日,加拿大蒙特利尔大学教授约书亚·本吉奥(Yoshua Bengio)嗅觉到了一丝来自人工智能的危险,作为2018年图灵奖(计算机领域的国际最高奖项)得主的他,发表公开信,强烈呼吁暂停所有比GPT4先进的AI系统暂停研发6个月。如今,这一建议已在网上获得了来自各领域超1000人的公开支持。

  公开信中,约书亚·本吉奥表示:大量研究证实,能与人在智力方面竞争的AI系统可能对社会和人类构成深远的风险,高级AI虽然可能带来世界生命史上的深刻变化,但也理应受到相应的管理。不幸的是,目前与AI发展相应的规划与管理并不存在,最近几个月,世界各地陷入了无序的AI竞赛。没有人,哪怕创造出这些系统的人也没办法预测甚至有效的实施控制。

  目前,人工智能在一般工作上已经变得与人具有同等的竞争力,但我们是否也应该先扪心自问:我们是否应该让它们生产的谎言来充斥我们的信息渠道,我们是否应该自动化所有的工作?我们应该冒着失去我们对文明控制的风险来发展它们吗?

  因此,我们呼吁要求所有比GPT4先进的AI系统暂停研发6个月,然后制定对这种超过人类能力东西的对策,并建议,如果不暂停,应该由政府强制暂停。

  最后,约书亚·本吉奥还认为AI开发者必须要与监管者合作,开发强大的AI管理系统。比如要有专门负责AI监管的机构,监督并跟踪AI系统的大量计算;以及对AI产出的内容进行水印等标记,帮助人类识别真假;甚至还要为AI的安全研究提供充足的资金,来应对AI可能造成的经济或政治破坏。

  目前,约书亚·本吉奥的公开信已经有超过1000多人的公开签名与支持,其中也不乏一些知名人士,如其他计算机领域的专家以及世界数一数二的富豪马斯克,还有苹果公司的联合创始人斯蒂夫·盖瑞·沃兹尼亚克。


您可能还会对下面的文章感兴趣:

登录 注册 退出