网聊10分钟被骗430万，AI 换脸拟声骗术正入侵我们生活

来源：钛媒体App

作者：林志佳

近日，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，骗子通过智能AI换脸和拟声技术，佯装好友对福州市某科技公司法人代表郭先生实施了诈骗，10分钟内被骗了430万元。

5月8日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，警银联动成功紧急止付涉嫌电信诈骗资金330多万元。

事件从4月20日说起。

据平安包头公众号所述，20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。

骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”，郭先生说。 

幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，在银行的全力协助下，仅用时10分钟，成功止付拦截336.84万元，但仍有93.16万元被转移，目前福建警方与包头警方对此资金正在全力追缴当中。

这不只是个案，最近一段时间国内外都出现了 AI 诈骗案例，用户损失惨重。

随着ChatGPT风靡全球，生成式 AI 有望取代更多人类工作，在文字创作、AI绘画、AI翻译、AI客服等方面替代人工。但同时，AI 技术被滥用风险加剧，一些犯罪分子盯上了 AI 技术，实施电信诈骗，让人防不胜防，同时凸显了 AI 生成虚假信息所带来的社会危险。

AI诈骗正在全球蔓延，成功率接近100%

实际上，AI 换脸技术并非是近期才兴起。

早在2017年，一位名为DeepFake网友将情色电影中的女主角换脸成好莱坞明星盖尔·加朵（Gal Gadot），这是AI换脸技术首次出现在公众视野当中。后来由于大量投诉者表示不满，其账号被官方封禁，而此后的AI换脸技术则以他的名字命名为“DeepFake”。

AI 换脸真正在国内火起来是在2019年初，一段通过AI技术将《射雕英雄传》中黄蓉扮演者朱茵的脸替换为杨幂的视频在网络上热传，引发大家对于 AI 是否会侵犯人的肖像版权问题。制作者肖先生对此回应称：主要适用于技术交流，不会用于营利行为。

5月22日晚，“冷门歌手”孙燕姿更新动态，回应“AI孙燕姿”翻唱刷爆全网事件。“我想说，你跟一个每几分钟就推出一张新专辑的人还有什么好争的。人类无法超越它已指日可待。”

AI孙燕姿演唱《可能》

有人通过模型训练和后期处理，让AI模仿孙燕姿的声音重新演绎诸多热门金曲。短短一个多月，“AI孙燕姿”已发歌近千首，远超本人职业生涯的歌曲总和。

如今，AI 技术已被不法分子盯上，并用于各类层出不穷的换脸花样。多地都出现了 AI 诈骗案例，不少普通人被所谓的“私密照片”敲诈勒索。

据华西都市报此前报道，2022年2月，有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。

2021年，浙江温州公安曾发布消息称，受害人小陈在与女网友视频聊天后被对方敲诈勒索，经警方调查，对方利用AI换脸技术，将小陈视频中的面部合成到不雅视频中，借此对其实施勒索。

2020年，上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。

这类 AI 骗局不止在国内发生。

据Gizmodo报道，英国最近同样发生了一起涉及高达22万英镑（约合192.4万元）的诈骗案件。一位当地能源公司CEO在不知情的情况下被骗子“DeepFake”了自己的声音。随后，骗子用他这段声音，电话转账了22万英镑到骗子自己的匈牙利账户，后来本人才发现是一个AI合成语音的骗局。

社交平台账户分享的一张声称显示五角大楼附近发生爆炸的假图片

昨天在美国疯传的五角大楼爆炸图，则是最新的 AI 欺骗案例。