3年内90%网络内容或由AI编制，科技大公司如何阻止虚假信息？

来源：澎湃新闻

记者 方晓 实习生 陈晓锐

·元数据或与数字图像文件相关的信息，可以提供内容的基本细节，例如照片的拍摄时间和地点等。目前，许多科技公司都支持使用这项技术在其产品中对AI生成内容进行某种形式的标记。但在找到一个可靠的解决方案之前，事实核查只能靠人工审核来弥补不足。

·Witness的执行主任萨姆·格雷戈里认为，解决AI虚假信息的责任“需要落在那些设计这些工具、构建这些模型并发布它们的人身上。”目前社交媒体平台关于AI生成内容的条例还不够详细。

图片来源：由无界 AI工具生成

主流的AI生成工具如ChatGPT、DALL-E、Midjourney降低了创建虚假图像、视频和文本的难度和成本，使网络上的AI生成内容泛滥且难以分辨。为了让用户和平台区分内容真假及来源，谷歌、Adobe、微软等科技公司正在探索如何应对这个问题。

截至目前，微软将在两款应用中添加水印和元数据功能；Adobe开发了一种可以跟踪AI编辑的内容凭据工具；谷歌将在图片和文件中标记AI生成，并与Midjourney等合作。

然而，这些技术手段仍处于起步阶段，在找到可靠的解决方案之前，事实核查只能靠人工审核来弥补不足。随着AI生成内容产生的速度不断加快，许多专业事实核查者要审核的内容已经远远超过人类可能处理的范围。

为内容打上AI标签

欧盟执法机构“欧洲刑警组织（Europol）”的一份报告预测，到2026年，互联网上多达90%的内容可能是由AI创建或编辑的。反虚假信息平台NewsGuard表示，目前，已经有一些完全由AI生成的新闻信息网站出现，这些网站的数量比几周前增加了近三倍。

一个人工智能生成的标题出现在TNewsNetwork.com上，这是一个匿名运营的新闻网站，于2023年2月注册。

专家认为，一种使用元数据、水印等技术系统的新方法或许能够帮助用户辨别真假。元数据或与数字图像文件相关的信息，可以提供内容的基本细节，例如照片的拍摄时间和地点等。目前，许多科技公司都支持使用这项技术在其产品中对AI生成内容进行某种形式的标记，并努力让这些信息更加公开，以帮助用户判断内容的真实性。

例如，微软在其年度Build大会上发布了给AI生成的图片和视频添加水印和元数据的新功能，旨在标记内容的来源和生成方式。这项功能将在未来几个月内在微软的Designer和Image Creator两款应用中推出。

此外，设计工具开发者Adobe的内容真实性倡议组开发了一种名为内容凭据的工具，可以跟踪图像何时被AI编辑。Adobe将其描述为一个标签，无论文件发布或存储在哪里，该标签都会随文件一起保存。例如，Photoshop的最新功能Generative Fill使用AI在现有图像中快速创建新内容，内容凭据可以跟踪这些更改。

Adobe内容真实性倡议组高级主管安迪·帕森斯（Andy Parsons）说，“首先要知道这是什么，在有意义的情况下，谁制造了它或它来自哪里。”

谷歌在其I/O 2023开发者大会上也表示，未来几个月内，谷歌图片的AI生成结果下方将会附上类似于版权声明的书面披露。此外，谷歌还将在其AI系统生成的图像文件中标记元数据。即用户在谷歌搜索中看到一个由谷歌AI系统生成的图像时，它会在下方显示类似于“由谷歌AI生成”的字样。与此同时，该公司宣布，它将与Midjourney和摄影图片网站Shutterstock等合作，让他们自行标记谷歌搜索中的AI生成图像。

此外，谷歌还在图像搜索结果旁边添加了一个“关于此图像（About this image）”的功能，无论它们是否有AI标签。用户只需点击即可看到谷歌首次索引这张图片的时间，它可能首次出现的地方，以及它在网上出现过的其他地方。谷歌搜索公共联络员 丹尼·沙利文（Danny Sullivan）指出，“这些工具未来将整合到谷歌搜索产品中，帮助人们更好地获取和理解相关信息。”

谷歌演示人们如何使用“关于此图像”获得更多的背景信息。

建立统一的开放标准

除了推出AI产品的科技公司之外，其他行业巨头也致力于如何给AI生成的内容贴上标签。2021年，包括微软、Adobe、BBC和英特尔在内的一些大公司共同创建了名为C2PA（Coalition for Content Provenance and Authenticity）的联盟，并制定了一个互操作的开放标准，让各个公司能够共享媒体的来源或所有权历史。