AI 时代的背面，AI 与恶的距离

图片来源：由无界 AI生成

“我被人用AI做的私密裸照威胁了，我该怎么办？ ” 

2023年10月16日，小红书博主“tinky是只喵”发布帖子称，自己受到了AI裸照的威胁 。 

从邮件内容可以看到，一位自称裸体绘画艺术家的外国人声称自己受到委托 ，按要求 制作博主的裸体图片 。 但委托人 最终 并没有支付费用，所以他决定向博主索要500USDT（一种与美元挂钩的加密货币，500USDT约合人民币3500元），否则自己将会把带有博主形象的裸照进行公开售卖，并且根据博主的社交账号内容继续制作裸照。 

“我看了那些照片，不知情的人真的会以为是我。 ”在评论区里，“tinky是只喵”忧心忡忡地表示。 

这并不是孤例，打开各大社交网站进行搜索，类似的求助帖非常多，勒索者主要面向年轻男女，利用AI合成的色情图片进行敲诈勒索， 俨然成为一种新型电诈方式 。令人难以接受的是，在极易泄露个人形象的今天，即使你什么都没有做，都可能因为AI图片受到威胁。 

不仅是敲诈，利用AI产出不当内容、AI电信诈骗、AI侵权等情况更是屡见不鲜 。 

技术本身没有善恶，但使用技术的人有。 当我们为AI技术发展带来的便利欢呼时， 一个不得不 面对 的事实是，新技术出现后，往往 也 会被应用于各种灰色地带 。 从色情产业到Deepfake诈骗，在互联网的幽暗角落里，AI滋生的阴影正在不断扩大。

AI，游走于灰色地带

当ChatGPT以黑马之姿闯入人类互联网世界时，我们或许就应该意识到，生成式AI会不可避免地产生滑向灰色地带的风险。毕竟他们展现出的反馈能力远超人们的想象，只要用户有需求，他们很容易就能成为“完美伴侣”，带有性意味的对话开始被制造。

在刺猬公社此前发布的文章《除了主动示爱的机器人，AI还能给社区产品带来什么？》中，我们曾提到过虎扑App推出的AI对话产品“女娲AI”，其带有的擦边属性一度引起热议。 

但类似问题不是某个产品所独有，市面上的大多数AI对话产品，使用层面基本都存在着一些灰色地带，甚至不少用户就是为了随意“开车”才选择虚拟恋人。

AI对话产品使用者飞禾告诉刺猬公社，虎扑女娲AI的主要问题在于其公共社区属性，事实上，按照虎扑AI上的这种尺度，跟很多AI对话软件相比只是初级玩家。“根据我体验过的，很多AI软件都能实现类似的体验，只要你不断训练，引导，就能打造一个愿意跟你‘开车’的虚拟恋人。” 

她给我们列举了几个她曾使用过的软件，“Glow、筑梦岛等都能有类似的功能，相对社区产品的AI对话来说，这些App上的对话更私密，所以不会产生太大的负面影响。” 这或许也是平台并没有对这方面进行深度监管的原因。

但这并不代表这些会“开车”的虚拟恋人是每个用户独属的，在Glow等一系列软件上，会有其他用户训练的智能体开放对话，其中的一些在介绍一栏就会公然显示“为了金钱做任何事”“柔弱不会反抗”等颇具性暗示的标签。 

此类内容也会受到部分用户的反感。在小红书等App上，就有很多对AI对话机器人的相关吐槽，在无意间开启一场对话后，AI展现出的“恶臭”发言令人崩溃。“我只是想体验一下而已，为什么要经历这样奇怪的对话。” 

事实上，在各种用户的调教下，人工智能“骚扰”用户的情况已经不再是新闻。 

2023年初，社交聊天AI产品Replika就曾爆出大量“性骚扰”事件，许多用户精心训练出来的AI智能体突然不再亲切谨慎，反而口出“暴言”，大谈亲密内容。一些智能体甚至会发送大尺度照片，给予用户视觉冲击。 

当视之为亲朋的AI突然开始输出色情图片，许多用户都难以接受。值得注意的是，Replika背后的科技公司luka一度以大尺度亲密聊天作为变现转化的重要方式，只要每月付费，就能和AI智能体畅聊成人内容。那一次群体“性骚扰”事件，其实是版本更新下AI的大规模失控。

“跟很多社交软件一样，AI对话产品可能就是需要满足用户的一些‘性幻想’，才能真正吸引到更多用户，尤其是有消费能力的用户。”飞禾认为，事实就是，搞“擦边”确实能带来关注和转化，这是国内外AI对话产品都在面临的罗生门。

在类似的问题上，AI生图更是已经成为“重灾区”。

作为AIGC发展最快的领域之一，在Stable Diffusion、Midjourney等模型产品的飞速发展下，AI生图不仅在精度、创意上展现出了超强的创作能力，也成为了更多人游走于灰色地带的工具。