让AI当你的办公助手，还差几步？

出品｜虎嗅科技组
作者｜齐健 编辑｜陈伊凡

图片来源：由无界 AI工具生成

办公软件正在从工具变成“助手”甚至“同事”。

在阿里的通义千问大模型面世一周后，4月18日，阿里钉峰会上钉钉总裁叶军（不穷）现场演示了钉钉的四个AI应用场景为：群聊、文档、视频会议及应用开发。表示钉钉与大模型融合场景正在测试中，将在相关安全评估完成上线。此次会上，钉钉的AI功能被搬到现场进行展示。 

Notion接入ChatGPT能力的NotionAI早已上线，微软和谷歌也分别宣布了Microsoft 365 Copilot，以及Docs和Gmail的生成式AI能力。本周，国内对标Microsoft 365最紧密的WPS也宣布正在研发“WPS AI”，各类办公软件。

NotionAI的生成内容

在协同办公SaaS软件中，最早引入ChatGPT的NotionAI已经把生成式AI能力开放出来。不过，在C端和B端上，推出AI产品的方向和难度有很大不同。有SaaS行业内人士对虎嗅表示，“不同公司在AI能力上线方面的考虑肯定有所不同，微软要推出一个C端AI产品可能很容易，但要上线B端产品，则需要考虑很多问题，包括用户接受度、软件安全性、定价，甚至是ESG等问题。”

那么生成式AI要走进办公软件中，需要解决哪些挑战呢？

内容安全性或成生成式AI最大阻力

生成式AI在内容安全性方面，以及隐私保护方面都面临着巨大的监管挑战。目前各国对生成式AI的监管力度正在加强，从意大利数据保护局第一个禁用ChatGPT以后，法国、西班牙有关部门也对ChatGPT展开了调查。美国商务部下属的国家电信与信息管理局，则正在调查对于企业和监管机构如何确保人工智能系统是值得信赖、合法及合乎道德。

“产品有很多，成熟一个上线一个”叶军对钉钉AI产品的上线规划非常有信心，但他表示目前具体的上线时间，还要等待监管部门的审批。叶军说：“AI生成的内容，不知道谁写的，一分钟生成无数条，可能一下子就会破坏整个网络纯洁的环境。”

4月11日，就在阿里通义千问发布会的同一天，国家互联网信息办公室下发了《生成式人工智能服务管理办法（征求意见稿）》的通知。目前我国已经出台的AI相关监管条例，包括《互联网信息服务算法推荐管理规定》和《互联网信息服务深度合成管理规定》，并均已开始生效。除此以外，还有一些分散在《民法典》、《数据安全法》、《网络安全法》等法律法规中。

对于安全问题，OpenAI首席执行官Sam Altman就在最近的一次公开讲话中表示，随着模型的能力越来越强，与之对应的安全措施也需要增加。在GPT-4发布后，OpenAI一直致力于处理各种亟待解决的安全性问题。OpenAI的总裁兼联合创始人Greg Brockman则发推称，“OpenAI花了6个月的时间测试GPT-4，力图让这个AI更加安全。”

“AI其实是黑盒，是炼丹炉，炼出来什么不知道。”叶军表示，AI生成的内容，有些是不可控的，对于生成的结果还要做二次处理，二次处理相关的机制和安全审批的能力，比UGC（User Generated Content，用户生成内容）更难控制。

钉钉AI能力的现场演示

“通常情况下，AI技术供应商，对于AI生成的不安全内容也负有责任。”观韬中茂律师事务所合伙人王渝伟律师告诉虎嗅，AI技术供应商，包括深度合成服务提供者和技术支持者，《互联网信息服务深度合成管理规定》对其规定了较高的监督管理义务和完善数据和技术管理规范义务，若因未尽到这些义务，AI生成内容不符合法律规定，则需要承担一定的法律责任。

“生成式大模型的不准确问题，可能会在很多不容马虎的细节问题上出错。”在安全问题上，某AI大模型业内人士以文生图的Diffusion（扩散式）模型给虎嗅举了一个例子，扩散式生成模型的核心是通过逐步“扩散”噪声信号来生成所需数据，同时不需要使用显式的先验概率分布。也就是通过“猜”把一张模糊的图片一步步锐化成一张清晰的图片。而在这个“清晰化”的过程中，很难把控图片的精细之处。比如五星红旗上有几颗星，地图的边界线究竟在哪等在细节上要求非常严格的问题，对于AI来说，都是很难保证正确的。由于文生文模型也采用了读上一个词“猜”下一个词的机制，因此很难在细节上把控安全性。

就安全问题，虎嗅从某国内大型语言模型（LLM）创业公司处了解到，目前国内已有一些基于大模型的Chatbot（聊天机器人）产品，但多数都受到安全问题限制，正在按要求自查，并等待审批。

大模型是底座，还需要小模型