复制成功

分享至

主页 > 比特币 >

关于 AI,现在哪些方向太乐观,哪些方向还可以更坚定一些?

2023.04.10

原创丨人神共奋

来源丨思想钢印

关于 AI,现在哪些方向太乐观,哪些方向还可以更坚定一些?

图片来源:由无界 AI工具生成


人工智能不只是 ChatGPT


ChatGPT 火了之后,有一个段子,说:我们过去想象的人工智能是,我们写诗画画编音乐,AI 烧饭洗碗修电脑,没想到,最后是 AI 写诗画画编音乐,我们自己烧饭洗碗修电脑。

白领危机四伏,蓝领暗自庆幸。

然而,ChatGPT 实际上只是人工智能历史上的第一个爆款应用,又是以一对一对话形式展开,效果又超出了我们的心理预期,很容易让我们产生一个“人工智能能说会道”的错觉,进而让我们觉得,它未来可以取代很多白领的工作。

其实,ChatGPT 底层的自然语言大模型 GPT,只是众多人工智能大模型中率先“涌现”的一个,它更倾向于生成文本的能力,所以看起来都是写写文章,说说话,画画画,但并不是说人工智能就只能干这些,你总不能因为赵本山演小品,就以为东北人只会演小品吧?

所以说,哪有什么“只取代白领的工作”这么简单的事啊,取代蓝领工作的人工智能早晚也会来的。

关于 AI,现在哪些方向太乐观,哪些方向还可以更坚定一些?

仅就自然语言大模型而言,最有名的有两种方向,除了 GPT 模型外,还有 Google 的 BERT 模型,两者的核心区别在于目标不同,GPT 更倾向于生成文本,而 BERT 模型更倾向于理解文本。

更不用说还有更多开发中的各种方向的人工智能模型。

本文将从 GPT 模型与 BERT 模型的区别出发,分析一系列相关的问题:

1、GPT 模型与 BERT 模型的区别、各种擅长的领域和未来可能适用的场景

2、为什么突破率先出现在 GPT 模型上

3、AI 行情的投资策略、重点方向与风险


文科的 GPT 和全科的 BERT


说 GPT 更倾向于生成文本,而 BERT 模型更倾向于理解文本,这个区别可能人类无法理解,不理解文本怎么生成文本呢?

但这个问题对 AI 来说,并不存在。

给一个形象的比喻,有一部励志日本电影《垫底辣妹》,讲一个年级倒数第一的差生通过一年内复习考入庆应大学(日本复旦交大这个级别)的真实故事,相当于在全国学生中的最后 2%,进步到前 2%。

这个神奇的故事之所以能实现,是因为她只要考“英语、小论文、历史”这三门强调记忆的科目,她不需要很深的理解,只需要记忆和“生成”,注意重点是——不考数学、物理等注重推理的科目。

而 GPT 模型的成功,就像“垫底辣妹”一样,很大程度在于选择了一个“语言生成”为目标的捷径,从而让它看上去的效果比它实际上的突破更明显——这一点跟现实中一样,一个能说会道的员工,总是比只会干实事的员工,看起来更能干。

Transformer 模型有编码器和解码器两部分,GPT 模型只使用编码器部分,而 BERT 模型既包含编码器部分,也包含解码器部分,所以,通常认为,BERT 模型需要“理解”文本的内容,GPT 模型则不一定。BERT 虽然也是一个文科生,但也要学习数学、物理这一类注重推理的课程,全面发展。

两者的区别在一开始训练时就产生了,GPT 的训练目标是通过最大化下一个单词的条件概率来预测下一个单词,从而完成生成任务;而 BERT 的训练目标是随机掩盖一些输入词汇并要求模型预测这些词汇,强迫模型预测缺失的单词,因此产生了双向性。

GPT 模型完成任务的方法就是“猜猜下一个概率最大的词是什么”,所以 ChatGPT 都是一个字一个字地蹦出来的,跟刚刚学会说话的小孩子一样。

但 BERT 模型就不同了,它会考虑每一个单词与前后文的关系,如果未来能成功训练出来(注意这个前提),所有的文字应该是一起出来,它会把所有的话想好了,再一口气输出。

很明显,BERT 模型的训练要求更高,实现难度更大,这就是为什么 Google 在人工智能的研究方面此前一直遥遥领先,会忽然间被积累不如它的微软超越。

虽然大家已经觉得 GPT 很神奇了,但如果真的大规模投入应用,在那些非生成内容为主的应用上,它还是有缺陷的。

比如你对 AI 助理说:“帮我在陆家嘴附近订一个粤菜餐馆,人均消费在 500 元左右,时间是明天晚上。”

对于这个句子,GPT 模型的“理解”是从过去的语料训练中,判断“陆家嘴、粤菜、明天晚上、人均消费、500 元”这些词的组合而不是词本身的意义,由此来判断自己应该输出什么样的内容,它对于语言的最小理解单位是句子,而不是词汇,会导致“模型产生幻觉,编造训练中从未有过的数据”。所以我们有时看到 GPT 推荐必胜客等成都小吃的离谱结果,因为它并不理解“必胜客”的属性,它还会把数学计算中的 1995 当成年代。

免责声明:数字资产交易涉及重大风险,本资料不应作为投资决策依据,亦不应被解释为从事投资交易的建议。请确保充分了解所涉及的风险并谨慎投资。OKEx学院仅提供信息参考,不构成任何投资建议,用户一切投资行为与本站无关。

加⼊OKEx全球社群

和全球数字资产投资者交流讨论

扫码加入OKEx社群

相关推荐

industry-frontier