大面积封号、意大利禁用、马斯克喊停…… ChatGPT “恐慌”四起

　　来源：AI 星球，文 / 王非

　　ChatGPT 热潮之下，暗涌丛生。

　　继 " 取代谷歌 "、引发失业潮等担忧之后，来自各方的不满、恐慌、抵触等负面情绪，近期集中在 ChatGPT 及 OpenAI 身上持续发酵：

　　其一，用户侧，ChatGPT 近日大量封禁 OpenAI 账号，尤其是使用中文对话的用户，据统计已有数百万用户的账号受到了影响；

　　其二，政企端，意大利宣布禁止使用 ChatGPT，并限制 OpenAI 处理意大利用户信息；三星发生三起半导体机密资料外泄事故，再发生事故或将切断 ChatGPT 服务；

　　其三，学术派，以马斯克为首的科学家也在近日给美国政府写请愿信，要求暂停 GPT-5 的研发。

　　凡此种种，一言以蔽之：人类最古老、最强烈的恐惧是对未知的恐惧。

　　一则是害怕落后由 ChatGPT 开启的第四次工业革命，其二则是以 ChatGPT 为代表的先进技术 " 对社会和人类构成潜在风险 "。

　　大面积封号：付费 Plus 也不好使，亚洲被针对？

　　ChatGPT 正在大面积封号。

　　相关信息显示，有用户于 3 月 30 日晚发现，付费 Plus 后会出现只扣款但订阅不开启的情况。

　　随后，大约自 3 月 31 日开始，有用户发现 OpenAI 关闭了新用户注册渠道。如果使用已有账号登录，则会收到 " 注册暂时不可用，请稍后尝试 " 的提示。

　　众多用户在社交媒体上表示，他们的账号在未收到任何警告的情况下被封禁，这让他们感到非常困惑和担忧。

　　用户侧的恐慌情绪迅速蔓延，大量用户在诸多平台友情提示，" 不要登陆！"

　　目前，用户总结的规律显示，OpenAI 封号的类型大致分为两种：批量注册、API 滥用。

　　前者主要是由于用户在手动注册之外，入手了大量由第三方途径 " 收入 " 的账户；后者则是由于用户在操作过程中存有滥用 API 的嫌疑，而这恰恰违反了 OpenAI API 的使用规则。

　　而在微博相关话题的讨论中，有用户也整理了封号的四个原因，并贴心地提供了三个防封号指南。

　　据市场统计，已有数百万用户的账号受到了影响。

　　截至目前，OpenAI 暂未对此进行相关回复。

　　意大利直接禁用，三星等企业存泄密风险

　　如果说 OpenAI 亲自下场封号，导致了用户侧的 " 未知恐惧 "。那么，在部分国家及企业层面，则是另一种 " 未知恐惧 " 的双向奔赴：政企端担心数据安全和泄密，OpenAI 则将丢失这一部分用户。

　　据央视新闻报道，当地时间 3 月 31 日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人 ChatGPT，并限制开发这一平台的 OpenAI 公司处理意大利用户信息。同时个人数据保护局开始立案调查。

　　意大利个人数据保护局认为，3 月 20 日 ChatGPT 平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。OpenAI 公司必须在 20 天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高 2000 万欧元或公司全球年营业额 4% 的罚款。

　　对此，OpenAI 方面表示，应 Garante 的要求，该公司已禁止意大利用户接入 ChatGPT。目前在意大利地区无法访问该网站。ChatGPT 网页上的一则通知称，该网站的所有者可能设置了限制，阻止用户访问该网站。

　　欧盟委员会执行副主席玛格丽特维斯塔格（Margrethe Vestager）也在推特上表示，正在讨论欧盟人工智能法案的委员会可能不倾向于禁止人工智能技术，但需要对其进行规制。

　　几乎在同一时间，韩国媒体报道称，3 月 11 日，三星 DS 部门开始允许员工使用 ChatGPT，但在不到 20 天的时间里就发生了三起机密信息泄露事件，其中 2 起与半导体设备有关，另外 1 起与会议内容有关。

　　韩版《经济学人》的文章中直接写道：这导致半导体设备测量资料、产品良率原封不动传输给了美国公司。

　　为了杜绝再次出现类似事故，三星正在制定相关保护措施，甚至考虑再发生事故就会切断 ChatGPT 服务。

　　不止于三星，台积电、软银、日立、富士通、日本瑞穗金融集团等企业开始限制 ChatGPT 等交互式人工智能服务在商业运作中的使用。

　　此外，摩根大通已经限制员工使用 ChatGPT，亚马逊、微软和沃尔玛也已向员工发出警告，要求员工谨慎使用生成式 AI 服务，埃森哲则警告员工不要将客户信息暴露在 ChatGPT 中。

　　马斯克等人喊停，但 GPT-5 已计划年底完成训练

　　当地时间 3 月 14 日，OpenAI 发布了 GPT-4，其回答准确性不仅大幅提高，还具备更高水平的识图能力，且能够生成歌词、创意文本，实现风格变化。此外，GPT-4 的文字输入限制也提升至 2.5 万字，且对于英语以外的语种支持有更多优化。

　　仅仅半个月后，美国非营利组织未来生命研究所（Future of Life Institute）发布了一封名为 " 暂停巨型 AI 实验 " 的公开信。

　　包括马斯克、" 人工智能教父 " 杰弗里 · 辛顿、图灵奖得主约书亚 · 本希奥在内的上千名人工智能专家和行业高管在信中呼吁，在开发比 OpenAI 新 GPT-4" 更强大 " 的系统过程应中断 6 个月时间。

　　他们建议，如果不能迅速实施这种暂停，" 政府应介入并实行暂停 "。

　　截至当地时间上周五，这封日期为 3 月 22 日的公开信已获得超过 1800 个签名。

　　然而，这一声势浩大的 " 喊话 "，或许并不会起到太大的作用。

　　4 月 2 日，a16z 投资的创业公司 Runway CEO 陈思齐透露，具有 AGI ( 通用人工智能 ) 能力的 GPT-5 计划在 2023 年 12 月完成训练。

　　针对 " 暂停研究 " 一事，中国人民大学教授刘永谋发文称，ChatGPT 对社会生产力的推动作用已经昭然若揭，不应因噎废食而是控制利用。暂停 ChatGPT 研发的想法简单粗暴，作用不大，也实现不了，纯属无效的 " 嘴炮 "。他认为，现在的问题是根据国情落实 AI 治理措施，而不是暂停 ChatGPT 研发。

　　360 创始人周鸿祎也持相似观点：" 我认为这不影响中国发展自己的大语言模型，包括 360 在内的一些中国公司已经展示了自己的作品，实事求是来说，离 GPT-4 的水平还有两年差距。现在担心风险为时尚早。"

　　周鸿祎曾经想过是不是在程序里加一句暗语，比如 " 天王盖地虎，宝塔镇河妖 "，一提这句话，AI 就能停止工作。" 然而现在的发展态势，已经不是一句暗语或者拔掉电源就能控制的了。人工智能的进化已经不以个人意志为转移了，哪怕是马斯克。"

　　周鸿祎称，" 我自己就是做安全的，但我坚定地认为，不发展才是最大的不安全。"