2020年是基于深度学习的自然语言处理(NLP)研究的繁忙年份。最大的噪音的英文由迄今为止发布的最大的自然语言处理(NLP)变压器GPAT-3产生的。OpenAI的GPAT-3(175B参数)比Microsoft Research的Turing-NLG在17B参数上的先前记录高出约10倍。
NLP的当代发展需要比以往更少的培训数据。除了将这些深度学习模型与常规的基于规则的算法一起部署以进行更准确的文本分析,情感分析,对话式AI以及许多其他用例之外,这些其他案例可以解释该技术的强大优势。
为了简化NLP的复杂性,Analytics Insight提出了2021年十大自然语言处理趋势
1.监督学习和无监督学习协作
监督学习和无监督学习的应用为自然语言处理提供了巨大的支持。例如,文本分析利用无监督和有监督的学习来理解文档及其词类中的技术术语,而无监督学习可以确定它们之间的共生关系。
2.通过 强化学习训练NLP模型
尽管强化强化学习在样本效率,训练时间和总体优秀实践方面已取得了很大的进步,但从头开始训练RL模型仍然相对缓慢且连续。因此,数据专家将希望首先训练基于NLP的监督模型,然后再使用强化学习进行进行微调,而不是从头开始训练模型。
3.准确的深度学习分类
深度回归在自然语言处理中的应用是多方面的。递归神经网络(RNN)等技术可以通过使用解析为数据科学家提供准确的文本分类。因此,在某些文本分析平台中,RNN将成为文档分类和实体标记的流行趋势。
4.市场情报监测
NLP在将跟踪状语从句:监视市场情报报告扩展中提取关键信息,以为企业提取智能信息,以制定未来的战略。2021年及以后,NLP将在众多业务领域中找到其应用。当前,该技术被广泛用于金融营销。它分享了对市场情绪,招标延迟和收盘的彻底见解,并从大型存储库中提取了信息。
5. 微调模型将是无缝的
转移学习将为预先训练的模型创造条件,从而创建用于情感分析,文本分类等的应用程序。在医学用例中,转移学习将使诸如患者满意度之类的情况得以准确衡量。这同样可以应用于任何服务行业,其中满意将是代表消费者是否满意的可能的分数。
6.定制产品推荐
电子零售商将使用NLP和机器学习技术来提高客户参与度,分析其浏览模式和购物趋势。其他情报洞察力包括购买行为,自动生成的产品说明等。
7.智能语义搜索
语义搜索的需求是预计将在2021年影响NLP的另一趋势。这种搜索将涉及自然语言处理和自然语言理解,这需要对文本中包含的中心思想有详尽的理解。
8.智能认知交流
在深度学习,无监督和有监督的机器学习的启发下,大量自然语言技术将继续塑造认知计算的通信能力。
9.聊天机器人和虚拟助手的增长
在自然语言处理(NLP)的发展推动下,聊天机器人和虚拟助手市场的增长将非常强劲。该聊天机器人市场,这是价值$ 2.6十亿在2019年,并预计到2024年将达到美国$ 9.4十亿。
10. 社交媒体的情感分析
自然语言处理将是理解和分析受众对在社交媒体平台上发布的品牌传播的反应的出色工具。也称为意见挖掘,它有助于分析通过社交媒体帖子与公司进行评论/互动的消费者的态度和情绪状态(高兴,悲伤,愤怒,恼火等)。
NLP的务实使用使拥有大量非结构化文本或语音数据的组织能够克服黑暗数据问题并有效地挖掘其以获取见识。但是,关于NLP真正的是它所涉及的AI的多个维度,暗示了该技术在未来几年内将产生的整体动态影响。
原文地址:https://www.toutiao.com/i6931749444631265805/