OpenAI创始人与首席科学家
AI风险堪比核能?诈骗、失控等众多黑暗面,我们该如何应对?
你敢相信吗,一个普通的视频聊天,竟然让一位福州市民损失了430万元!这就是最近发生的一起利用AI技术实施电信诈骗的惊人案例,它引发了全国网友的热议和关注。
而在国外,有关AI造假的问题也是层出不穷。有人用AI技术制造了美国前总统特朗普“被捕”的假新闻,也有人用AI技术模仿了欧盟委员会主席的声音,向德国总理打了个骗局电话。
这些新闻表明,AI技术的滥用和误用已经成为一个全球性的问题,在这种情况下,人们越来越担心 ChatGPT 等人工智能的发展可能对社会带来严重的威胁。对此,包括“ChatGPT之父”Sam Altman在内的350位AI权威自发签署了一封联名公开信,警告AI可能会对人类构成灭绝性风险。
此前,深度学习之父Hinton也曾为了警告AI的风险,不惜从谷歌离职。的确,AI技术的发展和应用不仅给人们带来了便利和福祉,也带来了巨大的挑战和危机。
如何识别和应对AI的潜在风险,已经成为当下亟待解决的问题,而我们将在以下内容中针对这些问题做详细的阐述。
AI有哪些风险?
◉ 伦理和道德风险
想象一下,如果有一天,AI技术发展到了超越人类智慧的水平,它会怎么对待我们?它会尊重我们的价值观和利益吗?它会保护我们的主体地位和自由吗?科幻小说中人类的机器大战的场面是否会成为现实?
这是我们需要认真思考的一个非常重要的问题,因为在AI技术的发展和应用中,伦理和道德风险已经悄然出现。
一方面,AI系统可能成为人类偏见的镜子或放大器,导致不公平的决策或行为;另一方面,AI系统可能区别对待不同的个人或群体,比如有些招聘系统可能会针对某些性别或种族,从而影响他们的就业前景。
◉ 经济风险
AI技术所引发的经济风险也与我们的生活息息相关。诈骗分子通过“换脸”和“拟声”等技术模仿受害人的朋友或亲戚的声音和外貌,让受害人完全分不清真假,这便是利用AI技术进行诈骗的典型方式。
据报道,这种诈骗的成功率高达100%,已经造成了多起重大财产损失,给人们带来了严重的经济风险。
目前,AI诈骗包括以下几种常用手法:
◉ 技术风险
作为一种改变人们生活方式和工作方式的技术,AI的广泛应用为人们带来了极大的便利,但同时AI技术的发展也给人类带来了一系列的技术危害和技术风险。
首先是数据隐私和安全问题。AI技术需要处理的数据通常涉及到用户的个人信息,如果这些数据处理不当或泄露,将给用户带来巨大的损失和安全隐患。
其次,AI技术往往采用黑箱技术,以获得更高的预测能力和效率,这使得AI系统不能向人类提供足够的可解释性,使得AI系统无法“解释”其行为或决策的标准,可能产生误导性和歪曲性。
除了以上技术问题以外,清华大学教授陶建华曾表示,大模型的安全漏洞威胁大模型的应用生态和国家安全,如数据投毒攻击、对抗样本攻击,以及模型窃取攻击国家、企业、个人信息窃取等。
◉ 社会风险
AI技术的不断发展还导致了越来越多的工作被自动化取代,部分人失去了工作机会,从而使得富人和穷人之间的差距越来越大。
在某些行业中,AI可能会取代人类工作岗位,如制造业、商业、金融和法律,这会导致失业、职业转移和社会经济的重大变化,进一步造成失业率上升,并对整个社会产生负面影响。
除此之外,AI可能对人类的社交和人际交往能力产生影响。在未来,人类可能会倾向于与机器对话,而不是与真正的人进行交流,这将对我们的社会联系和人类身份认同带来重要的改变。