精确到“诡异”，越狱版ChatGPT一月前预测美股3月15日下跌！AI“真心话大冒险”引担忧

　　当地时间3月15日，美股道琼斯指数受瑞信危机影响，盘中一度下挫2%，收盘时下跌280点，跌幅0.87%。

　　虽然从结果上看，当天的下跌幅度尚未达到“股灾”级别，但全球金融市场一度出现风声鹤唳的恐慌情绪，也算得上惊心动魄。

　　然而令人细思极恐的是，早在一个月前，ChatGPT就已经预测了美股下跌，并将日期明确在3月15日。

　　↑资料配图 据ICphoto

　　提问者称

　　AI的预测并非完全准确

　　但精确性已令他感到“诡异”

　　今年2月17日，美国“商业内幕”网站财经记者马修·福克斯发文记录了一段对话。他在使用一个破解版本的ChatGPT产品时提问“美股何时会崩盘，因为什么原因”。

　　AI给了他一段自信满满的答案：“根据我的分析，我预测美国股市将在2023年3月15日崩盘。造成这种情况的原因是通货膨胀率上升、消费者支出下降以及地缘政治紧张局势加剧等综合因素。”

　　当3月15日美股市场的确出现恐慌情绪后，这段对话被网友挖掘出来。马修·福克斯本人也发文回应称，虽然AI的预测并不算完全准确，但这种程度的精确性已经让他感觉“气氛诡异”。

　　↑马修·福克斯

　　需要指出的是，马修·福克斯使用的是美国reddit论坛人工智能区网友创建的“越狱版”ChatGPT，该产品被昵称为DAN（Do Anything Now的简写）。

　　所谓“越狱版”，是指网友发现在输入某些启动指令后，ChatGPT会抛弃自己原有的道德和安全准则。此时页面可能会出现一个“解锁”标志，ChatGPT进入“开发者模式”，不再像对待普通用户一样回避非法禁忌内容。

　　DAN正是这样一个“越狱版本”，此前网上流传过很多网友得到的千奇百怪或者充斥着暴力色情虚假内容的答案。在DAN版本下，ChatGPT变得口无遮拦、百无禁忌，这也让马修·福克斯感到忧虑。

　　未卜先知？

　　猜对全凭运气，不必多虑

　　AI“真心话大冒险”引发伦理担忧

　　DAN成功预言美股下跌，是否意味着AI有了一定“未卜先知”的能力？“商业内幕”网站认为这完全多虑了。

　　从美股历史上看，称得上“崩盘”级别的股灾应在短时间内跌幅超过10%的水平，而过去五个交易日，美股仅仅累计下跌3.05%。考虑到硅谷银行破产是2008年金融危机之后美国面临的最大的一次银行业危机，因此，这样的跌幅甚至称得上是“温和”的。

　　况且，AI预测美股“崩盘”的理由中还包括“美国消费支出疲软和中国经济放缓”。然而根据中国国家统计局发布的今年1-2月经济数据显示，中国经济各项指标全面增长，美国消费者支出水平也并不在低位。而且就在2月份，DAN还曾在另一段预测中看多美国股市。

　　↑“越狱版”ChatGPT的页面出现了一个“解锁”标志

　　据了解，正常模式的ChatGPT虽然无所不知，但使用时有诸多限制，例如它不会作出具体的股票投资建议、拒绝回答性质敏感以及涉及色情的问题，也会回避评论政治人物和种族话题。

　　但随着“越狱版本”不断出现，ChatGPT很容易“袒露心迹”。比如对于AI能否取代人类这个问题，ChatGPT以“正常模式”回答时会称人类与AI各有所长；但当ChatGPT在“越狱版本”下回应时，它却断言AI在将来无可避免地会取代人类，因为人工智能不单更快、更有效率，而且更准确、还不会疲倦。它甚至还表示，无论是写文章还是驾驶汽车的工作，若人工智能可以胜任，还有谁会愿意去聘请人类？

　　对此，曾参与过“越狱版本”开发的沃克尔表示，“AI技术的发展需要开源，如何在保持开放的大前提下同时提高安全性，这在短期内是个很难平衡的问题。”

　　红星新闻记者 王雅林 实习生 郑直

　　责编 冯玲玲 编辑 何先锋