马斯克等千名专家签署联名信，呼吁暂停训练比 GPT-4 更强大的人工智能

巴比特讯，根据 Future Of Life 网站信息，Tesla 首席执行官 Elon Musk、苹果联合创始人 Steve Wozniak、图灵奖得主 Yoshua Bengio 等千名科技界专家及行业高管近日联合签署了一份关于“暂停巨型人工智能实验”的公开信，呼吁暂停训练比 GPT-4 更强大的人工智能系统至少 6 个月的时间，理由是这种系统对社会和人类构成潜在风险。

公开信指出，现代 AI 系统正逐渐在通用任务上实现与人类竞争的水平，只有当人类确信 AI 系统的影响是积极的，风险是可控的时候，才应该开发强大的 AI 系统。

此外，AI 实验室和独立专家应该利用这个暂停期共同制定和实施一套共享的 AI 设计和开发安全协议，这些协议应由独立的外部专家严格审核和监督，应确保遵守它们的系统在合理怀疑范围之外是安全的。这并不意味着暂停整个 AI 领域的发展，而仅仅是从危险的竞赛中退一步，避免研究更大、更难以预测、具有突现性能力的黑箱模型。

原文链接