复制成功

分享至

主页 > 数字货币 >

新火种AI|如何看待AI蹭热点,合成假新闻?官方:治疗AI乱象,务必下猛药

2024.04.20

作者:小岩

编辑:彩云

随着科技的不断发展,AI的应用范围越来越广。这种全新技术正在深刻改变着我们的生活,让很多事情变得越来越简单,甚至只要进行“傻瓜式操作”就能完成。

不过,任何事情都有双面性。一方面,AI让很多人的工作效率得到了大幅度提升,成为了自己的得力助手。

譬如写文章写报道这件事就是如此。相较于以往写一篇深度报道,需要作者费尽心思地采写,拍摄,如今想完成一篇文章,一张图片只需要输入几个关键词,在此之后就坐等AI快速生成即可。成本低够低,效率够高。

另一方面,它的存在也让某些人找到了弄虚作假的捷径。在这个信息碎片化的时代,很多人为了博眼球,蹭流量,会蓄意编造传播耸人听闻,此时的AI就成为了他们的“作案工具”。

“蹭热点”,利用AI合成谣言……上海警方查处造谣传谣人员530余人。

4月16日,上海市公安局在新闻发布会中明确表示,诸如“某著名女星命运多舛,含恨离世”“上海浦东海滩女童走失事件女孩父亲系继父”等一系列前段时间在网络上盛传的消息都是谣言。

自去年12月开始,公安部部署打击整治网络谣言专项行动以来,上海警方针对网上恶意炒作,造谣生事等网络违法乱象开展全力集中整治。截至目前,累计查处网络谣言384起,依法查处造谣传谣人员530余人,清理网上谣言信息53000余条,依法关停违法违规账号5000余个。

新火种AI|如何看待AI蹭热点,合成假新闻?官方:治疗AI乱象,务必下猛药

在侦办案件的过程中,警方发现,利用AI技术炮制“爆点”的不法行为是最近兴起的新型手段。

譬如上海青浦警方在打击网络谣言专项行动中,查处了一起虚构事实扰乱公共秩序的案件。该案中,男子为提升曝光度,博取流量,输入关键字用AI杜撰关于青浦区发生命案的文章,并在网上下载网图后移花接木,发布在网上吸引网友关注,之后被依法行政拘留。

同类型的网络谣言案件还有很多。像“某著名女星命运多舛,含恨离世”“利用AI软件合成故意纵火虚假视频”“利用AI软件编造社会知名人士重病离世”等,都属于利用AI造谣的案件类型。

就连去年备受大家关注的“上海浦东海滩女童走失事件”也遭遇了AI造谣。一造谣团伙就以“标题党”“震惊体”方式恶意编造炒作了一系列谣言,诸如“女孩父亲系继父”“女孩被带往温州”等。这些谣言团伙通过批量注册网络账号的方式,对谣言进行进一步的转发炒作,阅读量超百万。仅通过炒作这一事件,该团伙就非法获利4万余元。警方进一步调查后发现,该团伙还围绕各类全国性社会热点,在各大平台高频发帖,转载虚假负面信息,牟取不法利益。目前,团伙中12名成员已被依法移送起诉,涉案相关网络账号已被全部封禁。

毫无疑问,这些谣言会给当事人极其家人造成难以磨灭的困扰和伤害。

新火种AI|如何看待AI蹭热点,合成假新闻?官方:治疗AI乱象,务必下猛药

警方也将加强对网络新技术新业态的研究,与互联网企业建立7×24小时沟通联系机制,全面强化企业巡查处置能力,积极查摆网络安全责任制度问题隐患。与此同时,警方还会指导建立辟谣专区,账号及谣言举报入口,尽量将谣言所带来的伤害控制到最低。

更有甚者编造虚假的官方通报——耸人听闻,触碰红线。

编造假新闻的行为已经十分离谱,却不想有些人还更过分,居然连重大的社会事件,官方通报都敢编造。

2024年1月23日,广西壮族自治区东兴市的骆某某(男,32岁)为博取流量吸引粉丝,将其他地区的抗洪救灾视频,利用AI软件自动编辑功能,嫁接新疆乌什县发生地震的虚假视频信息。一时之间,视频被大量播放,还引发了许多不明真相网民评论和转发,严重干扰社会秩序。目前,东兴市公安机关已依法对骆某某进行处罚。

无独有偶。同样在广西壮族自治区,贺州市的网警发现有人冒用贺州市平桂区人民政府办公室的名义,在网上发布一条"关于贺州市第五高级中学小卖部经营权调查情况的通报"。经调查,网警发现通报内容与政府发布通报的实际情况严重不符。这条虚假通报的发布人是山东青岛人于某某,它在网上看到关于贺州市第五高级中学小卖部经营权调查情况的通报后,为了蹭热度为自己账号涨粉,就使用 AI 工具将该报道重新生成了一篇内容,与政府发布通报实际情况严重不相符的文章,并发布到网上。目前,公安机关已依法对其处以行政处罚。

新火种AI|如何看待AI蹭热点,合成假新闻?官方:治疗AI乱象,务必下猛药

官方下场表态:人工智能生成谣言成本低,治理须“下猛药”。

利用AI技术蹭热度,造谣,乃至伪造官方通报,重大社会事件的行为无疑是非常恶劣的。

免责声明:数字资产交易涉及重大风险,本资料不应作为投资决策依据,亦不应被解释为从事投资交易的建议。请确保充分了解所涉及的风险并谨慎投资。OKEx学院仅提供信息参考,不构成任何投资建议,用户一切投资行为与本站无关。

加⼊OKEx全球社群

和全球数字资产投资者交流讨论

扫码加入OKEx社群

相关推荐

industry-frontier