复制成功

分享至

主页 > 比特币 >

人类精英呼吁暂停 AI 实验 ChatGPT:合理但谨慎考虑

2023.03.30
人类精英呼吁暂停 AI 实验 ChatGPT:合理但谨慎考虑

3月29日,非营利组织“未来生命研究所(Future of Life Institute)”发表了一封题为“暂停巨型AI实验”的公开信,呼吁全球的AI实验室暂停训练比GPT-4更强大的系统至少6个月,并在此期间开发出一份针对AI的共享安全协议,必要时需要政府介入。

1000多名科技人士在这份公开信上签名,包括特斯拉CEO马斯克、Stability AI 的CEO Emad Mostaque等企业掌门人,也包括Alphabet旗下DeepMin的研究人员,还有诸如图灵奖得主Yoshua Bengio这样的重量级学者。当然,也有人表达了不同意见,认为这是在阻碍技术进步。

开发出GPT-4模型的OpenAI公司内还没有人签名,该公司目前也没有对这封公开信予以回应。但我们向卷入纷争中的ChatGPT要了个回应。

这个AI自然语言大模型产品倒是表现出了善解人意的一面:暂停实验存在合理性,但需要谨慎考虑这么做带来的技术发展滞后问题。它还给出了关于AI的六大风险和十个管理制度建议。


人类精英:暂停实验 确立规则


截至今日,挂在“未来生命研究所(FLI)“官网上的《暂停巨型AI实验》公开信,已经收集了1130人的签字,名单里精英云集,不乏特斯拉、苹果等科技公司的高管,也有政客和作家,当年,更多的是全球多所高校的教授以及人工智能领域的专家。

那么精英云集签字的这封公开信到底说了什么?以下是这封信的全文

广泛的研究表明,具有能与人类竞争的智能的AI系统会对社会和人类构成深刻的风险,顶尖的AI实验室也承认这一点。正如广受认可的阿西洛马人工智能原则(Asilomar AI principles)原则所述,高级AI可能代表着地球生命历史的深刻变化,应该以合适的态度和资源去进行规划和管理。不幸的是,这种水平的规划和管理并没有发生。尽管最近几个月AI实验室陷入了一场失控的竞赛,以开发和应用越来越强大的数字思维,然而没有人能够理解、预测或可靠地控制这些思维,甚至他们的创造者也不能。

当代AI系统在一般任务上正在拥有与人类竞争的能力,我们必须问问自己:

我们应该让机器在我们的信息渠道中充斥宣传和谎言吗?

我们是否应该自动化所有的工作,包括那些有成就感的工作?

我们是否应该培养出可能比我们数量更多、比我们更聪明、最终超越并取代我们的非人类思维?

我们是否应该冒着失去对我们文明控制的风险?

此类决策决不应该委托给未经选举产生的技术领导人。只有当我们确信AI的效果是积极的,风险是可控的时候,AI系统才应该被开发。这种对AI的判断必须是合理的,并随着系统潜在影响的变化而变化。

OpenAI最近关于人工通用智能(AGI)的声明指出,“在开始训练未来的系统之前,进行独立审查可能很重要。同时对于最前沿的工作而言,人们应该在合适的时间点限制用于创建新系统的计算增长率。我们同意这一说法,并认为现在就是合适的时间点。

因此,我们呼吁所有的AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。这种暂停应该是公开的和可核实的,所有关键的参与者也能暂停相关工作。如果这种暂停不能迅速开始,政府应该介入并实施暂停。

AI实验室和独立专家应利用这一暂停的时段,共同开发一套AI设计和开发的共享安全协议,这些协议需要由独立的外部专家严格审计和监督。这些协议应确保所有遵守它们系统的AI是安全的。这种暂停并不意味着总体上暂停AI开发,只是让人们从具有新兴功能的、不可预测的危险竞赛中后退一步。

AI的研究和开发应该重新聚焦于使当今强大、最先进的系统更加准确、安全、可解释、透明、稳健、一致、可信和可靠。

与此同时,AI开发人员必须与政策制定者合作,大幅加快强大的AI管理制度的开发。管理制度至少应包括以下内容:

◾针对AI的新的、有能力的监管机构;

◾监督和跟踪能力强大的AI系统和计算能力池;

◾帮助区分真实和合成数据的溯源、水印系统,并跟踪模型泄露;

◾提供健全的审计和认证生态系统;

◾对AI造成的损害进行责任认定;

◾为AI技术的安全研究提供充足的公共资金;

◾资源充足的机构以应对AI将造成的巨大经济和政治破坏(尤其是对民主的破坏)。

人类可以通过AI享受一个繁荣的未来。在成功创建了强大的AI系统后,我们现在可以享受一个“AI之夏”。

在这个AI的夏天,我们可以收获回报,为所有人的利益设计这些系统,并给社会一个适应的机会。人类社会曾经暂停使用一些可能会对社会造成灾难性影响的技术,我们现在也可以在AI领域这样做。让我们享受一个漫长的AI之夏,不要在没有准备的情况下匆忙进入秋天。

免责声明:数字资产交易涉及重大风险,本资料不应作为投资决策依据,亦不应被解释为从事投资交易的建议。请确保充分了解所涉及的风险并谨慎投资。OKEx学院仅提供信息参考,不构成任何投资建议,用户一切投资行为与本站无关。

加⼊OKEx全球社群

和全球数字资产投资者交流讨论

扫码加入OKEx社群

相关推荐

industry-frontier