OpenAI 正组建新团队 Preparedness 以评估人工智能的“灾难性风险”

巴比特讯，10 月 27 日，OpenAI 宣布正在创建新团队 Preparedness，以评估和减轻与人工智能相关的“灾难性风险”。据悉，该团队的主要任务是“跟踪、评估、预测和保护”人工智能造成的潜在重大问题，包括核威胁。此外，该团队将致力于减轻“化学、生物和放射性威胁”，以及人工智能的“自主复制”行为。该团队的任务还包括制定和维护风险知情发展政策（RDP）。RDP 将详细说明其在开发严格的前沿模型能力评估和监控、创建一系列保护行动以及建立整个开发过程的问责和监督治理结构方面所采用的方法。

此外，OpenAI 还将发起人工智能防备挑战赛，以预防灾难性滥用。OpenAI 将为最多 10 个最优秀的作品提供 25,000 美元的 API 积分。

原文链接