百万账号被封，人类跳反，ChatGPT 下半场如何走？

　　（图片来源 @视觉中国）

　　当 ChatGPT 引发全球热议之时，人们开始跳出来反对，企图通过 " 封杀 "ChatGPT 手段保卫人工智能（AI）技术带来的风险。

　　钛媒体 App 获悉，北京时间 4 月 1 日，ChatGPT 之父、美国 OpenAI 公司 CEO 阿尔特曼（Sam Altman）发文证实，ChatGPT 已经在意大利暂停服务，并表示意大利是他最喜欢的国家之一，期待着很快再次访问。

　　此前 3 月 31 日，意大利个人数据保护局宣布，即日起禁止使用 ChatGPT 平台，并限制 OpenAI 公司处理意大利用户信息，同时个人数据保护局开始立案调查。

　　近两天，ChatGPT 平台突然大量封禁 OpenAI 账号，尤其是使用中文对话的用户，据统计已有数百万用户的账号受到了影响；更早之前 3 月 29 日，作为曾经 OpenAI 最大的支持者，世界首富、OpenAI 联合创始人、特斯拉 CEO 马斯克（Elon Musk），却与数千位科技界和学术界大咖联名呼吁，所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月。

　　" 我们还有很长的路要走，我们确实需要更强大的对齐技术来构建更强大的模型。" 阿尔特曼连发数条推文回应公开信，称仍对 GPT-4 技术能力感到非常自豪。

　　4 月 2 日，a16z 投资的创业公司 Runway CEO 陈思齐透露，具有 AGI ( 通用人工智能 ) 能力的 GPT-5 计划在 2023 年 12 月完成训练。

　　数据泄漏、封号限制，ChatGPT 被 " 围殴 "

　　" 许多人陷入了该死的疯狂 ChatGPT 循环中。AI 比核弹更恐怖。" 马斯克在 ChatGPT 于 2022 年 11 月发布后多次评论其对人类的影响。

　　实际上，2016 年 9 月马斯克作为 OpenAI 联合创始人、投资人、联席 CEO，在特斯拉加州弗里蒙特工厂接受了阿尔特曼的采访。

　　左侧是 OpenAI 首席执行官 Sam Altman，右侧是特斯拉 CEO Elon Musk

　　当时马斯克表示，就可能影响人类未来的事情而言，他认为 AI 可能是短期内最重要的事。他指出，创立 OpenAI 的重要初衷，是让 AI 以良好的方式到来，这是他认为最重要、最紧迫的事情。" 我认为我们必须实现 AI 技术的民主化，并让它能广泛使用。而这显然就是整个团队创建 OpenAI 的原因。"

　　不过，马斯克的这一愿望最终未能实现，OpenAI 似乎走向了相反的一面。

　　最近几天，ChatGPT 平台正展开大规模封禁账号行动。据市场统计，已有数百万用户的账号受到了影响——这似乎与 OpenAI 起初的民主化背道而驰。许多用户在社交媒体上表示，他们的账号在未收到任何警告的情况下被封禁，这让他们感到非常困惑和担忧。

　　有消息称，此轮封禁 OpenAI 账号猜测可能与异常登录账号的安全问题、遏制恶意行为、不符合新版规则的技术升级调整、账号邮箱权重、中国区域的 IP 地址或服务器账号等因素有关。

　　截至目前，OpenAI 暂未对此进行相关回复。

　　2019 年和今年 2 月，微软两次向 OpenAI 注资 100 亿美元以上，成为该公司的第一大投资方，并让 OpenAI 估值达 290 亿美元，创下行业记录。随后，ChatGPT 发布 Plus 付费服务，同时让微软借助 GPT 实现广告、云计算服务的商业化。

　　如今在微软的推动下，OpenAI 确实有了制衡谷歌的能力。毫无疑问的是，目前 OpenAI 已经不再是非商业化 AI 实验室，而是一家要与微软一同将 AI 商业化的公司。与此同时，ChatGPT 以及 GPT-4 发布之后，除了微软得到核心 API 数据外，其他公司则是望尘莫及，几乎无法获得 GPT 这种对话式通用人机接口的能力。

　　当 ChatGPT 火爆全球之际，美国首先宣布 " 封杀 "ChatGPT，打响人类保卫战第一枪。

　　3 月 22 日，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，包括马斯克在内，多位科技公司高管和顶级 AI 研究人员，呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练，暂停时间至少为 6 个月。信中表示，六个月或更长时间的暂停，将使该行业有时间制定 AI 设计方面的安全标准，从而防止风险最高的一些 AI 技术的潜在危害。

　　" 我们不应该冒着失去对文明控制的风险，将决定委托给未经选举的技术领袖。只有当确保强大的 AI 系统的效果是积极的，其风险是可控的才能继续开发 "。该机构在信中所提到的 " 未经选举的技术领袖 "，显然是在暗指 OpenAI。

　　这封信公布之后引发巨大的行业讨论，多位人士表达反对意见。例如计算机科学家、Google Brain 联合创始人吴恩达表示，让有关部门暂停他们尚未了解的新兴技术，往好了说是反竞争，往坏了说是开了一个糟糕的先例；英伟达 AI 科学家 Jim Fan 则认为，许多大语言模型在安全性和公正性上已经表现地很好，不应该一味地批评。

　　钛媒体 App 梳理发现，在马斯克和这些 AI 行业从业者看来，ChatGPT 背后主要存在技术商业化、数据隐私保护、网络安全风险等问题。

　　技术商业化：马斯克非常看重开源，他认为 AI 应该民主化，很多人应该享受到 AI 技术，而不是 OpenAI 喂养微软一家独大。

　　数据隐私保护：这种大型语言模型背后核心是大的算力和参数量（数据），因此数据来自哪里，是否存在公平、隐私问题等，这些都是 OpenAI 被行业诟病的地方。

　　网络安全风险：ChatGPT 的自动编写代码功能在提升代码编写效率的同时，也会被黑客用于辅助编写恶意代码，网络安全态势势必更加严峻。

　　据《经济学人》韩国版 3 月 30 日报道，三星电子引入 ChatGPT 不到 20 天，ChatGPT 就泄漏了三星内部机密，涉及半导体设备测量资料、产品良率等内容。而 ChatGPT 可能把三星的机密信息当作训练资料使用。

　　另据报道，数据安全服务 Cyberhaven 检测到并阻止了其客户公司 160 万名员工中 4.2% 的人将数据输入 ChatGPT 的请求，因为存在泄露机密信息、客户数据、源代码或监管信息的风险。目前，摩根大通已经限制员工使用 ChatGPT，亚马逊、微软和沃尔玛也已向员工发出警告，要求员工谨慎使用生成式 AI 服务。

　　" 缺乏透明度是（ChatGPT）真正的问题，"瑞典于默奥大学 AI 学院副教授 Johanna Bjorklund 说，" 如果你做 AI 研究，你应该对你的研究方式非常透明。"

　　中国人民大学教授刘永谋发文称，ChatGPT 对社会生产力的推动作用已经昭然若揭，不应因噎废食而是控制利用。暂停 ChatGPT 研发的想法简单粗暴，作用不大，也实现不了，纯属无效的 " 嘴炮 "。他认为，现在的问题是根据国情落实 AI 治理措施，而不是暂停 ChatGPT 研发。

　　" 现在它已经成为了一个闭源、以最大利润为目标、受微软控制的公司。" 马斯克在 ChatGPT 发布一个月后断掉了 OpenAI 对推特的数据访问权限。

　　3 月下旬，马斯克再次暗讽 OpenAI 称：AI 是人类创造的最强大的工具，现在却掌握在无情的垄断企业手中。据报道，马斯克近期一直在与人工智能研发人员接触，商议成立一个新的研究实验室以替代 OpenAI。

　　传 GPT-5 于今年底发布，AI 未来走向何方？

　　" 我被告知，GPT-5 计划在今年 12 月完成训练，OpenAI 预计它将实现 AGI。"a16z 投资的创业公司 Runway CEO 陈思齐（Chen Siqi）近日在其推文中分享了这个重磅消息。

　　陈思齐称，他认为一旦 GPT-5 发布，大家将离 AGI 目标更近了。据悉，通用人工智能（AGI）又称强人工智能，指具备等同或超过人类智能行为水平的人工智能。自人工智能学科诞生以来，通用人工智能就是该领域研究的主要目标之一。

　　当然，OpenAI 目前尚未公开讨论 GPT-5，所以这方面的资料较少，GPT-5 仍处于 " 传闻 " 当中。但鉴于 GPT-4 比 GPT-3 提升的技术能力，如果 GPT-5 实现 AGI，就意味着聊天机器人达到了人类的理解和智能。

　　也许，未来人类的脑子会被机器所学习？Maybe

　　事实上，早在 2009 年，机器学习领域商业大咖、DeepMind 联合创始人肖恩 · 莱格 ( Shane Legg）曾使用曲线外推法预测，到 2025 年人类将研发出与我们水平一致的 AGI 技术能力。

　　如今来看，这个目标似乎被 OpenAI 团队提前完成了。

　　陈思齐后来对他的说法稍作反驳，" 要明确的是，我并不是说用 GPT-5 实现 AGI 是 OpenAI 内部的共识，但那里的人相信它会实现。" 换句话说，这种 GPT-5 AGI 并不一定是在人类当中实现，可能依然是机器和数据学习。

　　3 月 30 日，360 公司创始人、董事长周鸿祎发布长文指出，暂停 GPT-5 研发不会影响中国自己的大语言模型，中国距离 GPT-4 水平还有两年差距。此前一天，周鸿祎在会议中演示了 360 公司最新研发的大模型 " 红孩儿 " ——继百度 " 文心一言 " 之后的第二款类 ChatGPT 产品。

　　周鸿祎随后对钛媒体 App 表示，目前该产品处于内测，并没有公测，而且该产品仅类似搜索引擎和浏览器插件，而非平台。

　　对于 AI 技术的未来，金沙江创投主管合伙人张予彤认为，生成式 AI 是实现通用泛化的 AI 能力，相对于此前 NLP 自然语言技术，ChatGPT 和 GPT-4 给大家看到了一个希望，用同样的一个模型完成泛化的能力。她认为在 GPT 技术引领下，未来能够看到的所有应用都会变成智能应用，所有的应用的 UI 都能够变得简单。" 中国不但需要有自己大模型，也需要有自己的先进算力。"

　　华为云 AI 首席科学家、IEEE Fellow 田奇在 2023 博鳌亚洲论坛上表示，经过几十年的积累，AI 技术迎来一个爆发，因为它的通用性和对社会的影响是方方面面的，因此这一波人工智能对社会的影响应该远远超过 iPhone。ChatGPT 不仅带来新的人机交互方式，还极大地提高了生产力。

　　创新工场 CEO 李开复引述报告称，预计到 2032 年，生成式 AI 全球市场规模将超过 2000 亿美元。

　　"ChatGPT 这波会带来 AI 领域新一轮洗牌。" 芯片 IP 供应商芯原股份创始人、董事长兼 CEO 戴伟民在 3 月 27 日年报会议上表示，ChatGPT 背后的算力非常重要。

　　不过，ChatGPT 仍会带来一定的风险。据比利时媒体 La Libre 报道，一名比利时寡妇声称，她的丈夫在与 AI 聊天机器人 Chai 交谈了六周后自杀身亡，背后主要原因是 Chai 鼓励用户自杀，这种情绪化能力成为了人类的红颜知己，一步步听从其回复。据悉，聊天机器人 Chai 基于 GPT-4 替代方案研发的产品。

　　就目前来看，ChatGPT 已经引起资本市场波动，出现了一定的分化，多个 ChatGPT 概念、AI 股由涨转跌，但 AI 芯片、应用领域股票仍处于高位。

　　截止 3 月 31 日收盘，百度美股跌 1.89%，百度港股跌 0.54%，创新奇智跌 2.36%，知乎跌 2.31%；AI 芯片公司寒武纪涨 5.59%，年初至今涨 227.49%；AI 应用类股海天瑞声至今涨 241.43%；昆仑万维年初至今涨 219.97%；云从科技年初至今涨 196%；商汤 -W 年初至今涨 21.46%。另外在海外公司中，年初至今，AMD 涨 53%，英伟达涨 94.04%，C3.ai 涨 203.25%。

　　老虎证券分析师 Bo Pei 表示，围绕 ChatGPT 的大肆宣传，仅表明市场对新投资叙事的渴望程度。" 经过这么多年的发展，中国和海外的互联网行业都已经饱和，都在寻找新的方向。但类 ChatGPT 工具多久才能真正产生影响、或产生有意义的收入是值得怀疑的。"

　　事实上，ChatGPT 的到来已经打破了中美在 AI 领域势均力敌的幻想。

　　" 不管你愿不愿意，GPT 都将引领一场新的工业革命，意义超越互联网和 iPhone 的发明。它将带来生产力的大幅提升，进而提升国家竞争力。中国一定要迎头赶上。" 周鸿祎表示。（本文首发钛媒体 App，作者｜林志佳）

　　更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体 App