ChatGPT Plus 停售，留出防治 AI 风险空窗期

能体验GPT-4模型的ChatGPT，因需求量太大而暂停了升级为Plus的功能，算力似乎爆表了。

这下，有钱都没地儿充会员了，用户们暂时需要回到“GPT-3.5时代”。这或许留给人类一个空窗期，可以好好思考一下前段时间上千名科技精英签名呼吁暂停“比GPT-4更强的大模型实验”的事儿，他们希望能提前应对AI的风险问题。

当前，人们肉眼可见的AI风险是造假，生成式AI大模型在人类的脑洞下，给教皇“穿上了巴黎世家的羽绒服”，让马斯克陷入了“和通用汽车女CEO约会”的绯闻中，还凭空捏造了“2001年俄勒冈州9.1级大地震”……

随着AI生图的效果越来越优秀，真实与虚假的界限正在模糊，无论光影、人物神态、年代质感，AI生成的图几乎能达到以假乱真的程度。当有人用AI 制造假新闻、假历史时，我们该如何区分真伪，应对虚假造成的影响？

当GPT-4因算力爆表有限地向人类开放时，我们或许该冷静的看看，当前的AI风险线构建到了哪种程度。

造假潮

86岁的罗马教皇方济各“身着束腰白色羽绒服”的图片，在引发几千万次浏览后被AI生图应用Midjourney澄清，这是利用该应用创建并发布在Reddit上的假照片。

特斯拉CEO 埃隆·马斯克也亲自下场辟谣自己的绯闻照，“我永远都不会穿（图片中）那件外套”。那张图片里，他和通用汽车的CEO玛丽·芭拉“被十指紧扣，街头约会”。这张图在几小时内传播了超过700万次。

有关教皇（左）与马斯克的假图

知名模特 Chrissy Teigen 都被“时尚教皇”的图片骗到了，“我以为教皇的羽绒服照片是真的，完全没有多想，”她不禁感慨，“在高科技的未来我简直活不下去。”

如果这两张图片尚处于名人“花边”的范畴里，那么接下来的AI造假图带来的影响就大得多了。

在Reddit论坛上，有网友分享了一组画面和质感偏向20年前的“新闻图片”。

图片里，人们在机场里露出惊恐的表情；

街道上空的大桥坍塌，有车辆被压在了桥下；

城市的废墟里，救灾人员忧虑地面对着镜头；

这组照片被描述为“2001年卡斯卡迪亚9.1级大地震，引发的海啸摧毁了俄勒冈州”。但事实上，这场灾难并不存在，图片是网友用Midjourney生成的。

而这种“生造历史”的图片在Reddit论坛的Midjourney板块中正在成为潮流。

网友Arctic_Chilean就伪造了“2012年7月超级太阳风暴造成大规模停电”的场景。真实历史是，太阳在2012年7月23日确实产生过强烈的日冕物质抛射，但这次抛射与地球擦肩而过。造图的网友假设“如果地球没有这么幸运”，那么“全球电网和卫星等设施将遭受严重破坏”，“长达数月的大规模停电”就会发生，“北半球还会出现美丽的极光”。

网友制作的假“太阳风暴致停电”图

Arctic_Chilean试图将这些假设利用AI生图应用变成可视化的场景，搞了20多张虚构的图片。太阳风暴的图片有明显的渲染痕迹，工作人员监控城市电网的图片很像电影场景，但NASA的发布会和机场的人群照，一般人看上去很难辨别真伪。

另一位Reddit网友kawaiilovecraft选择了更遥远的年代，生造了“1977年苏联蓝色瘟疫事件”的组图。照片中，田野和树木呈现蓝色，人类穿着白色防护服行动，俄罗斯风格的城市里浓烟四起。

网友制作的假“苏联蓝色瘟疫事件”组图

或许是因为70年代苏联的照片库存较少、无法为Midjourney提供足够的训练，这组“历史照片”虽然做旧了，但在画面上反倒呈现出一种诡异的不真实感。

制作“太阳风暴致停电”组图的在Arctic_Chilean事后总结，Midjourney善于捕捉2012年的新闻画面的风格，在生成天际线和地标上的极光照片方面也能达到逼真效果，但无法生成城市断电的场景；而“苏联蓝色瘟疫”图组的评论里出现了为图片效果“找补”的评论， “冷战时期铁幕的另一边发生过很多不为人知的事，到现在也没有解密。你的图片提供了一个不错的脑洞”。