关于生成式 AI 的六个悬而未决的问题及预测

文章来源：麻省理工科技评论

作者：Will Douglas Heaven

生成式人工智能在 2023 年席卷全球。它的未来以及我们的未来将取决于我们下一步的行动。

图片来源：由无界 AI生成

从很多方面来看，目前围绕生成式人工智能的热议都让人想起互联网的早期阶段：人们感到兴奋和期待，而且还有一种正在不断创造的感觉。

可以这么说，我们正处于 2000 年左右的互联网繁荣时期。很多公司会倒闭。我们可能需要几年时间才能看到这个时代的 Facebook（现在是 Meta）、Twitter（现在是 X）或 TikTok 出现。技术咨询公司 Booz Allen Hamilton 生成式人工智能主管 Alison Smith 说：“人们不愿意想象 10 年后的未来，因为谁也不想显得愚蠢。”“但我认为，它将会大大超出我们的预期。”

互联网改变了一切 -- 我们如何工作和娱乐、如何与朋友和家人共度时光、如何学习、如何消费、如何恋爱，等等。但它也给我们带来了网络欺凌、报复性色情和巨魔工厂。它助长了种族灭绝，加剧了心理健康危机，并使监控资本主义 -- 其令人上瘾的算法和掠夺性广告 -- 成为我们这个时代的主导市场力量。只有当人们开始大量使用人工智能，社交媒体等杀手级应用出现时，这些弊端才会显现出来。

生成式人工智能很可能也是如此。有了基础架构 -- 来自 OpenAI、谷歌、Meta 和其他少数几家公司的基础生成模型 -- 除了构建者之外，其他人也会开始以其制造者做梦也想不到的方式使用和滥用它。Smith 说：“如果没有个人用户的真正使用，我们就无法充分了解它的潜力和风险。”

生成式人工智能是在互联网上训练出来的，因此继承了互联网上许多尚未解决的问题，包括与偏见、错误信息、侵犯版权、践踏人权和全面经济动荡有关的问题。所以，我们决不能盲目行动。

在我们观察生成式人工智能革命的发展过程中，有六个悬而未决的问题值得注意。这一次，我们有机会做得更好。

1. 我们能减轻偏见问题吗？

偏见已成为人工智能相关危害的代名词。现实世界的数据，尤其是从互联网上搜索到的文本和图片，充满了偏见，从性别刻板印象到种族歧视，不一而足。在这些数据上训练出来的模型会对这些偏见进行编码，然后在使用它们的地方强化这些偏见。

聊天机器人和图像生成器倾向于将工程师描绘成白人和男性，将护士描绘成白人和女性。黑人有可能被警察部门的面部识别程序误认，从而导致错误逮捕。招聘算法也更倾向于男性而不是女性。

如果没有新的数据集或新的模型训练方法（这两项工作都需要数年时间），偏见问题的根源就会一直存在。但这并不妨碍它成为一个热门的研究课题。OpenAI 一直致力于利用人类反馈强化学习（RLHF）等技术来减少大型语言模型的偏差。这将引导模型的输出向人类测试者认为他们更喜欢的文本类型靠拢。

其他技术包括使用合成数据集‌。例如，Runway 在人工智能生成的不同种族、性别、职业和年龄的人的图像等合成数据上训练了一个版本的 Stable Diffusion。该公司报告说，在该数据集上训练的模型生成了更多肤色较深的人的图像和更多女性的图像。如果需要一张商务人士的图像，那么输出的图像也会出现戴头巾的女性；医生的图像也会出现不同肤色和性别的人，等等。

然而，一些批评者认为，这些解决方案只是在破损的基础模型上贴创可贴，掩盖而非解决问题。但 Smith 在 Booz Allen Hamilton 的同事、该公司负责人工智能的主管 Geoff Schaefer 认为，从长远来看，这种算法偏见可以暴露社会偏见。

举例来说，他指出，即使从数据集中删除了明确的种族信息，种族偏见仍然会影响数据驱动的决策，因为种族可以从人们的地址中推断出来，从而揭示出种族隔离和住房歧视的模式。他说：“我们把大量数据集中在一起，这种相关性就变得非常明显了。”

Schaefer 认为，这一代人工智能也会发生类似的事情：“全社会的这些偏见都会显现出来。“他说，这将导致更有针对性的政策制定。

然而，很多人会对这种乐观态度表示反对。问题暴露在公众面前并不能保证它一定会得到解决。政策制定者仍在努力解决多年前就暴露出来的社会偏见，包括住房、招聘、贷款、治安等方面。与此同时，个人也要承担后果。