返回首页

论机器如何理解人类语言 百度AI快车道深度讲解

时间:2019-08-02 来源:原创/投稿/转载作者:管理员点击: 162

  7月28日,北京“地表最强高温”也无法阻挡众多企业相关技术者的学习脚步。百度AI快车道——企业深度学习实战营第五期再次于北京开营,此次就“语义理解”专题进行了讲解与实践,众多开发者克服酷暑,深度参与了这场深度学习技术的交流和实践活动。

  在这个巨变的时代,人工智能早已被视为第四次工业革命的核心驱动力,而这其中,深度学习技术的兴起正推动着人工智能进入工业大生产阶段,去创造更大、更多的价值。

  如果说人工智能的核心是认知,那么认知的核心技术之一就是“语义理解”。百度的语义理解技术既包含灵活通用、多层次的语义表示建模,也有特定任务上的语义适配。近年来,利用大规模无监督语料训练得到通用语义表示预训练模型,再在特定任务上进行参数微调,已经取得了远超SOTA的效果。这种基于预训练的语义理解技术正受到越来越多的关注。

  在AI快车道的交流学习中,百度大脑技术生态和自然语言处理部的资深研发人员首先针对飞桨全景进行了介绍,随后围绕着“语义理解”介绍了NLP的发展现况和过往模型情况,并分享了百度飞桨(PaddlePaddle)ERNIE模型。据现场介绍,ERNIE是由百度自主开发的知识增强语义理解模型。该模型可通过对词、实体等语义单元的掩码,使得模型学习完整概念的语义表示,学习真实世界的语义关系,解决了其他模型主要聚焦在原始语言信号上,较少利用语义知识单元建模的问题。

  比如,在“哈尔滨是黑龙江的省会,国际冰雪文化名城”例子中, 谷歌的BERT 模型对于通过『哈』与『滨』的局部共现,就可判断出『尔』字,但模型并没有学习与『哈尔滨』相关的知识。而百度的ERNIE 通过学习词与实体的表达,使模型能够建模出『哈尔滨』与『黑龙江』的关系,可学到『哈尔滨』是 『黑龙江』的省会以及『哈尔滨』是个冰雪城市,从而增强了机器对于人类语言的理解。活动现场,众企业学员们互动积极,一位来自医疗相关领域的学员分享表示,目前他所在的工作领域已经运用了NLP语义理解技术,并有计划将飞桨框架运用到自己的实际业务中,此外还针对相关技术与讲师进行了问答探讨。

  当天的AI快车道的学习活动,依旧安排了具有挑战性的实践课,并以“训练业界领先的情感分类模型”为任务。在现场,众学员在指导下都完成了实操挑战,并纷纷表示当天的课程“信息量输出非常多,干货满满”、“非常先进的技术,学到很多”、“来之前就知道百度是中文领域内自然语言处理的领头企业,现在看果然不虚此行”等等。

【责任编辑:管理员】
随机推荐 更多>>