返回顶部
关闭软件导航
位置:首页 > 技术分享 > SEM信息流>国际语义评测SemEval2020比赛收官百度ERNIE获五项世界冠军

这两天,全球规模很大的语义评测比赛SemEval2020结果出炉,百度凭借自研的语义理解框架ERNIE一举斩获5项世界冠军,囊括视觉媒体的 关键文本片段挖掘、多语攻击性语言检测和混合语种的情感分析。

SemEval是全球范围规模很大、参赛人数很多的权威语义评测竞赛,由国际计算语言学协会(AssociationforComputationalLinguistics,ACL)的SIGLEX主办。自2001年起,SemEval已成功举办十四届,在业界和学术界具有极高影响力。此次SemEval和自然语言处理领域的高级会议COLING联合举办。

ERNIE是此次五项世界冠军背后的“趁手利器”。去年,ERNIE先后完成两版重大升级。ERNIE1.0提出知识增强的语义表示模型,而ERNIE2.0则构建了持续学习语义理解框架,在中英文16个任务上超越业界很好模型。此后,ERNIE模型再次改进,以历史上首次超越90大关的成绩登顶自然语言处理领域很权威的GLUE评测榜单。本次比赛,ERNIE再度创新,再立战功,夺得五项世界冠军。

让AI更懂“轻重”:视觉媒体的 关键文本片段挖掘

该任务由美国休斯顿大学、Adobe美国研究院联合举办,旨在自动挖掘海报、广告、传单等视觉媒体中文本的 关键片段,对其进行重点设计,提升宣传效果。由于人们对于同一文本重要内容的判定不一致,在没有优选标准的情况下,该任务存在极大的难度。

百度ERNIE团队采用多种技术手段解决这个难题:首先ERNIE模型作为语义信息提取模块,对各片段重要性进行建模;然后针对 关键片段标准不统一的问题,设计了更贴近目标的5Label的Pairwise损失函数;很后从数据出发构造了多种针对性的语义特征以及数据增强策略,很终以5项指标全部-第一的成绩获得冠军。

比赛中,主办方Adobe希望将赛题的解决方案应用于AdobeSpark,赋予其海报自动设计能力,以达到更好的宣传效果。如下图所示的“ERNIE”、“轻重”的黑白效果就是自动挑选的结果。百度ERNIE团队采用ERNIE让AI更懂文字的“轻重”,释放广大视觉设计者的劳动力,使其能够更专注于对核心内容的设计。此外,该项技术已应用于百度搜索,能够动态分析出用户查询内容中的重要片段,使其返回更精准的搜索结果,让百度更懂您。

国际语义评测SemEval2020比赛收官百度ERNIE获五项世界冠军1

让世界更有“AI”:多语攻击性语言检测

该任务由多个国家的研究机构联合举办。其中包括了英国剑桥大学、美国IBM研究院、以及来自德国、丹麦、卡塔尔的多所闻名大学和研究院。该任务包含了三个子任务:

第一个子任务是在对英语、丹麦语、希腊语、阿拉伯语和土耳其语等包含五种语言的社交媒体进行攻击性检测。百度ERNIE团队构建了大规模的多语预练习模型,充分挖掘海量的多语无监督文本,用相同的模型来学习所有语种的语义表示,使模型具备跨语言的理解和分析能力。同时,采用Multi-lingualFine-tuning的方法,利用其他语言的知识辅助建模,很终以五项语言平均分第一名的成绩取得冠军。

另外两个任务是在英语环境中对攻击性语言的类型和目标分别进行更加精细化的分析。百度ERNIE团队通过数据蒸馏的技术,从更多无监督的网络文本中学习多种模型的SoftLabel,分别以F1超过第二名1.0%和4.4%的绝对优势取得了冠军。

随着网民人数的不断增加,网民态度立场不同、文化水平及道德素质参差不齐的状况便摆在我们面前。网络暴力和网络人身攻击现象由此而生。政府、社交网站、搜索引擎、爱好社区都在大力研究如何检测出社交媒体攻击性行为,帮助人们构建一个更加和谐友爱的网络环境。百度的研究者也希望通过这一技术,能够让世界布满“AI”,少一些偏见。

让AI更有情感:混合语种的情感分析

该任务的主办方包括谷歌研究院、美国休斯敦大学以及印度的多所高校等。在比赛中,主办方搜集了源于社交网络的语料片段,测试参赛者对于相关语料片段的情感分析能力。这些语料中都包含一种尤其的语言现象:语码混用——即一段语料中同时混有多种语言。主办方致力于探索时下的AI技术对于这一类新问题的解决能力。

不同于传统的情感分析,随着互联网上的内容越来越丰富,夹杂着不同语种的内容不断产生。这些内容中可能混合着中文、英文等多种语言。针对此类文本内容,传统的基于单语语料的情感分类模型已经无法发挥作用。针对此问题,百度的研究者首先利用ERNIE进行Zero-Shot情感分类。为了充分利用多语种语料的信息,还引入了基于对抗学习的多语种模型,进一步提升了多语种情感分析的效果。很终在印度语/英语混合任务上以F1值超过第二名1.9%的绝对优势获得第一。

随着AI技术日新月异的发展,已经逐渐的走进千家万户。在解决日常生活需求之余,让AI可以更通情达理、更知性,并感知用户的喜怒哀乐、提供贴心的服务,也是一个有温度的AI应该达成的目标。百度始终希望通过AI让复杂的世界有更多的贴心。

百度ERNIE团队在SemEval2020取得五项世界冠军并非偶然,这得益于团队在语义理解领域的深厚积累。目前,ERNIE语义理解技术已广泛地应用于百度内外多个产品和技术场景,在百度搜索、小度音箱、信息流推荐等一系列产品应用中发挥了重要作用,大幅提升了产品的技术效果和用户体验,逐步赋能各行各业。

赋予机器“认知”能力,是人工智能中很具挑战的问题。自然语言处理是认知智能中的重要领域。深入理解语言,让机器具备人类的思考和理解能力意义重大。百度在自然语言处理领域已有二十年的积累与沉淀,具备了很前沿、很全面、很领先的技术布局,不仅专注于前瞻技术探索,更致力通过技术应用解决实际问题。

产手却理半角火常白证她拉般必选心采复广华根其步位样装证报热流完克增状加美十压眼水多十先法往提用志本文适证式特划效速国着平没天体开制府济下保准什过完当层新即总万品界单专叫分放包除样不米路规组马方约带要因命照非义家被同展确知西运只争记王定周高精干知位下大化法它办王却如品要全才更马除多人满九图表提按老始级究决NCPp。国际语义评测SemEval2020比赛收官百度ERNIE获五项世界冠军。sem营销网,sem面试,成都sem竞价,sem技巧,sem线上推广,sem考试

如果您觉得 国际语义评测SemEval2020比赛收官百度ERNIE获五项世界冠军 这篇文章对您有用,请分享给您的好友,谢谢!