马斯克呼吁暂停AI开发是“打嘴炮”？

划重点：
①警惕AI发展，防止AI失控，正在成为全球范围内科技领域的“政治正确”；
②在严防人类自我灭绝的问题上，很多风险如核大战、气候变化、致命病毒传播、生物科技滥用等要排在超级AI之前；
③AI可能导致各种社会风险，学界早已指出，各种应对建议也早被提出来，现在的问题是根据国情落实AI治理措施，不是暂停研发；
④如果不做政策上的总体安排，ChatGPT肯定会导致大量“AI失业”，反过来“AI失业”又会阻碍ChatGPT的进一步应用。

作者：刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员

2023年3月，包括埃隆.马斯克在内的千名专家联合签署公开信，呼吁暂停训练GPT-4后续人工智能（AI）模型至少6个月。消息一出，引爆全球网络和媒体，很快引来吴恩达等“AI大牛”的反对。最后，此事也没有下文，暂停GPT-4被怀疑就是OpenAI的一波炒作。

4月份，又传出意大利要全面禁止ChatGPT，不久的结果是罚款了事。

5月份，美国总统拜登和副总统哈里斯也来凑热闹，与顶级人工智能企业谷歌母公司Alphabet、微软、OpenAI和Anthropic的首席执行官举行会议，向企业施压围绕人工智能实施保障措施，表示支持新的法规或立法，减轻AI技术的潜在危害。

用户利用生成式AI工具制作的“马斯克和他的AI女友” 图源：网络

一切看起来山雨欲来，似乎ChatGPT、Midjourney、DALL-E 2为代表的生成式人工智能（GAI，Generated AI）催生了新的、更严重的社会风险，使得人类社会发展和应用AI技术的总体局面发生了根本性改变，需要采取新的战略、措施和办法来应对，比如全面暂停新的AI技术的研发。

真的是这样的吗？否。

第一，GAI并没有产生什么新风险，它可能导致的问题早已也一直被学界所讨论、所呼吁。第二，应对GAI风险并不需要什么新方法，应对AI风险的关键一直都是落实。

4月11日，国家互联网信息办公室公开发布《生成式人工智能服务管理办法（征求意见稿）》，以前所未有的速度对GAI作出治理反应，佐证GAI应用社会影响巨大，必须认真研究，审慎地而迅速地加以应对。

01谨防AI失控——全球科技领域的“政治正确”

1）失业问题，即它可能导致文案策划人员、原画师、工业设计人员、程序员、媒体从业人员和翻译人员等脑力工作者大量失业。

2）教育问题，即它可能冲击既有-的教育科研系统，比如学生可以用ChatGPT代替自己做作业。

3）信息安全问题，即GAI自动生成海量的人工智能生产内容（AIGC，AI Generated Content），真伪难辨、立场可疑，权属不清、追责困难，甚至可能成为挑战主流价值观和意识形态的危险工具。

AI风险早就被各国政府所重视，近年来更是成为全社会的关注焦点。显然，上述GAI导致的三大冲击都不是什么新问题，早在ChatGPT爆火之间就已经被学界和政府所关注、所研究。

近十年来，从物联网到大数据、云计算、区块链、元宇宙、ChatGPT，一波波的AI热潮中，从来没有缺少关注风险的呼声。

本人专业关注新科技社会冲击问题，花了大量精力提醒大家注意AI可能导致的技术风险。比如，曾写过专著《技术治理通论》《物联网与泛在社会的来临》《技术有病我没药》《元宇宙陷阱》《科技与社会十四讲》，面向非专业人士提示ICT（信息与通讯技术）的社会冲击和技术风险。

可以说，警惕AI发展，防止AI失控，正在成为全球范围内科技领域的“政治正确”。在此氛围之下，公开宣称“AI无禁区”的声音被极大地抑制。对此，作为技术控制的选择论者，我完全赞同。

就目前的发展态势而言，ChatGPT究竟存在什么严重的风险，必须以“加码”的方式比如暂停至少六个月加以应对呢？

有人说，ChatGPT是超级AI出现的征兆，如果现在不停止（注意：不仅是暂停），“潘多拉的魔盒”一旦打开，人类很快会被超级AI统治甚至灭绝。这种幻想色彩浓厚的念头，很难让人予以严肃的对待。尤其是，很多专业人员不承认ChatGPT是通用AI，更别说它是超级AI的雏形了。

超级AI可能是个问题，但在严防人类自我灭绝的问题上，很多风险如核大战、气候变化、致命病毒传播、生物科技滥用等要排在超级AI之前。我们是不是先把它们都停止了？就算停止不了，暂停一下也行，起码可以呼吁暂停。

既然没有什么新的情况，就不必采取暂停发展的极端方法，为什么？

第一，暂停是没有道理。有人说，ChatGPT风险应对措施没有想清楚，所以先暂停。错！不是没想清楚，而是没有落实到位。

第二，暂停是不可能真正实现的，肯定会有AI公司会违反禁令，结果是不公平的竞争。