马斯克“暂停AI训练”被指是闹剧，又有机构要求调查OpenAI

来源：澎湃新闻

记者 方晓

·专注于人工智能技术伦理的AI和数字政策中心要求美国联邦贸易委员会调查OpenAI是否违反了消费者保护规则，认为其推出的AI文本生成工具“存在偏见、具有欺骗性，并且对公共安全构成风险”。

·OpenAI首席执行官山姆·奥特曼发布推文：“在飓风眼中非常平静。”他宣布将在5月和6月展开一次全球之旅，与世界各地的用户与开发者交流。

图片来源：由无界 AI工具生成

包括特斯拉首席执行官埃隆·马斯克在内的1748人签署公开信，呼吁暂停训练比GPT-4更强大的人工智能系统至少6个月。 这封信立即引起了轩然大波，并在科技界持续震荡了两天。

一些公开信的签名者收回立场，一些知名签名者被证明本人并没有签署，还有许多人工智能研究人员和专家反对这封信的建议。有媒体称这是一场巨大的闹剧。

与此同时，专注于人工智能技术伦理的AI和数字政策中心（CAIDP）要求美国联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，认为其推出的AI文本生成工具“存在偏见、具有欺骗性，并且对公共安全构成风险”。

对于这些争议，OpenAI首席执行官山姆·奥特曼（Sam Altman）似乎比较淡定。他在3月30日发布推文：“在飓风眼中非常平静。”稍早前，他在推特上说：“一个良好的AGI（通用人工智能）未来所需要的东西：1）调整超级智能的技术能力，2）大多数领先的AGI工作间的充分协调，3）一个有效的全球监管框架，包括民主治理。”

山姆·奥特曼：在飓风眼中非常平静。

奥特曼还宣布将在5月和6月进行一次全球之旅，与OpenAI的用户、开发者和对人工智能感兴趣的人进行交流。他将访问多伦多、里约热内卢、拉各斯、马德里、布鲁塞尔、慕尼黑、伦敦、巴黎、特拉维夫、迪拜、新德里、新加坡、雅加达、首尔、东京和墨尔本。

“今年是1440年，天主教会要求暂停使用印刷机6个月”

这封引发争议的公开信由非营利组织生命未来研究所（Future of Life Institute）撰写，其使命是“减少强大技术带来的全球灾难性和存在性风险”。该机构是一些长期主义支持者的聚集地，长期主义是一种由硅谷科技精英推动的世俗宗教，宣扬寻求大量财富以引导人类解决在遥远未来所面临的问题。具体而言，该研究所专注于减轻人类长期的“生存”风险，如超级智能。表达过长期主义信念的马斯克在2015年向该研究所捐赠了1000万美元。

“只有当我们确信它们（人工智能系统）的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。”信中说，“所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。”“人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。”

“这并不意味着总体上暂停AI开发，只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。”信中澄清道，指的是微软和谷歌等大型科技公司之间的AI军备竞赛，这些企业在过去几个月快速发布了许多新的人工智能产品。

除了马斯克以外，其他值得注意的签名者包括苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官埃马德·莫斯塔克（Emad Mostaque）、图灵奖得主约书亚·本希奥（Yoshua Bengio）和《人类简史》作者兼历史学家尤瓦尔·赫拉利（Yuval Harari）。开发GPT系列人工智能模型并将其商业化的OpenAI没有员工签署这封信。

生命未来研究所向VICE证实，所有签署者都是“通过直接沟通独立核实的”。尽管有这样的验证过程，但这封信一开始就有很多虚假的签名者，包括冒充OpenAI首席执行官奥特曼、Meta公司首席人工智能科学家杨立昆（Yann LeCun）的人，后来研究所清理了名单。

这封信自公布以来，受到了许多人工智能研究人员包括签名者的审视。纽约大学教授加里·马库斯（Gary Marcus）告诉路透社，“这封信并不完美，但精神是正确的。”Stability AI的首席执行官莫斯塔克在推特上说：“我不认为6个月的暂停是最好的主意，也不同意所有的东西，但那封信里有一些有趣的东西。”

杨立昆在推特上嘲讽：“今年是1440年，天主教会要求暂停使用印刷机和活字印刷术6个月。想象一下，如果普通人能够接触到书籍，会发生什么？他们可以自己阅读圣经，社会就会被摧毁。”