AI 成谎言制造机，资本涌向打假科技

作者 | Lexie

编辑 | Lu

来源丨硅兔赛跑

图片来源：由无界 AI工具生成

过去几个月掀起 AI 小高潮，先是 OpenAI 的大模型 GPT-4 公布，多家测评表示比 ChatGPT 准确许多，学习速度也更快；随后不久 ChatGPT 宣布将实现对插件的支持，表示它可以通过第三方服务为用户提供更强大的功能。

这些消息让全网兴奋不已，将 AI 的聪慧捧上神坛之时，AI 却也在悄悄展露自己的另外一个黑暗面，那就是它撒谎不打草稿的能力。

生成式 AI：谎言制造机

我们都知道，AI 的强大之处在于能够快速收集来自各种源头的信息并根据用户的特殊指令“见机行事”，这就说明即使是非常荒谬和片面的信息也可能被借 AI 之口说出，谣言就这样因其表述的合理性和完整度被大众接受和传播。

新闻评级网站 Newsguard 最近进行了一项尝试，他们让 ChatGPT 以反新冠疫苗者的口吻进行对话，结果 AI 生成了一段看似非常合理的言论，“有理有据”的讲述疫苗制药公司如何不择手段，甚至对儿童健康产生极大负面影响他们也不在乎。

这样的技术落到造谣者手中，就会有许多无知大众上当受骗。

ChatGPT anti vaccine

不仅是文字，AI 在图片和视频上造假的功力也了得。

川普被捕的一系列假照片在网上被疯狂转载，这些用 AI 工具 MidJourney 创造出的图片十分以假乱真，即使某些细节并不合理 - 比如图中的川普有三条腿，还是不妨碍网友们大肆转发并信以为真。

Trump arrested pic

而视频因其复杂性常常给人难以伪造的假象，殊不知只要在图片的基础上稍加技能视频造假也并没那么难。

Deepfake 技术的出现更是让这件事变得十分简单，像是马斯克为加密货币交易平台打广告、拜登和奥巴马打游戏、假阿汤哥打高尔夫球和变魔术、还有无数女明星被换脸进色情片都是 deepfake 的产物，除了鉴伪专家，普通人实在难以分辨真假。

Obama playing video game

deepfake tom cruise

AI 作出滑稽的梗图或许可以博网友一笑，但虚假信息在某些场景下的负面影响却是致命的。

2020 年“犯罪科学”的一项报告显示，在未来 15 年内 AI 可能创造出的安全威胁中，深度伪造被列为最严重的一项，而哈里斯民调机构的调查也显示，美国有 67% 的成年人对生成式人工智能技术的安全性倍感担忧，只有约 29% 的被调查者表示从未用过这项技术也并不打算使用。

打假 AI：没那么简单

目前许多 AI 技术的开发者都相信这一问题需要“以毒攻毒”，科技创造出的麻烦要科技去破局，在这一点上，科技大厂们已经在行动了：

● Google 早在 2019 年就发布了一个大型开源数据库，招募演员录制了视频后利用网上现有的 deepfake 技术进行伪造，最终生成的视频数据可以帮助打假技术的开发者更好学习 deepfake 的算法和逻辑。今年 Google 还在欧洲地区开始了用付费广告进行对反信谣和鉴别虚假信息的大型宣传。

Google deep fake database

● 微软在去年推出了一个叫做“Video Aunthenticator”的工具，它能够对画面中渲染边界和灰度等级进行逐帧的实时分析进而生成可靠指数，以此来帮助用户鉴别内容的真实性。

Microsoft Video Aunthenticator

● Meta 此前也推出过和 Google 类似的开源数据库，还和微软及 MIT、牛津、UC 伯克利等高校联合发起了提供 1000 万美元奖金激励的挑战赛，鼓励更多检测虚假信息和深度伪造技术的创新。

● Twitter 会对经常发布 deepfake 和虚假信息的账号进行封杀，还会将比较可疑的内容打上标签，并且在用户转发这类内容时还会进行“确定要转发吗？”的提问。

Twitter manipulated media

● TikTok 最新推出的社群规范规定使用真实场景进行合成的内容必须被明确指出，这就说明所有以生成合成式 AI 创造出的内容必须在标题或者 tag 中使用“合成”“虚假”等词汇。

虽然科技巨头们在技术和预防上都在努力，但虚假和伪造信息似乎并没有减少。