- · 《语言研究》栏目设置[09/30]
- · 《语言研究》数据库收录[09/30]
- · 《语言研究》投稿方式[09/30]
- · 《语言研究》征稿要求[09/30]
- · 《语言研究》刊物宗旨[09/30]
横扫6大AI榜单后,阿里将这一顶级语言AI开源
作者:网站采编关键词:
摘要:智东西(公众号:zhidxcom) 作者 | 心缘 编辑 | 漠影 智东西6月22日报道,今日,阿里巴巴达摩院正式宣布已开源预训练语言模型体系AliceMind。 日均调用量超过50亿次、活跃场景超过200个
智东西(公众号:zhidxcom)
作者 | 心缘
编辑 | 漠影
智东西6月22日报道,今日,阿里巴巴达摩院正式宣布已开源预训练语言模型体系AliceMind。
日均调用量超过50亿次、活跃场景超过200个、登顶六大NLP权威榜单,AliceMind身上有许多荣耀的战绩,并入选了2021年世界人工智能大会最高奖项SAIL奖TOP30榜单。
作为阿里的语言技术底座,AliceMind正在让机器学会说“人话”的道路上一路快跑。
达摩院深度语言模型团队负责人黄松芳告诉智东西,AliceMind生态体系完整,能力全面,希望通过开源,推动NLP行业研究突破和应用创新。
开源地址: src="http://p1.qhimgs4.com/t014204db82a2b9e8cb.jpg">
AliceMind体系内的模型登顶六大NLP榜单
截至5月,AliceMind体系内的主要工作已登顶GLUE、CLUE、XTREME、VQA Challenge、DocVQA、MS MARCO等六大NLP权威榜单。
其中的多语言、多模态、结构化预训练三个模型均被国际学术顶会ACL 2021录取。
6月19日,AliceMind体系中的多模态模型StructVBERT,再次登顶多模态权威榜单VQA Challenge 2021。
这个比赛类似看图问答,给定一张图像和关于图像的自然语言问题,AI需要提供准确的自然语言答案。AliceMind战胜了微软、Facebook等几十家国际顶尖团队,将纪录从去年第一的76.36%显著提升到超过79%,接近人类水平(80.78%)。
AliceMind登顶VQA Challenge 2021榜单
除了上述6种模型外,AliceMind模型体系还包括超大模型PLUG、知识驱动LatticeBERT等模型。
中文预训练模型PLUG在两个月前刚刚发布,因为高达270亿的超大规模参数,在业界猛刷了一把存在感。黄松芳透露道,PLUG开源目前正在规划中。
目前AliceMind已上线到内部平台,开箱即用,支持继续训练、精调、蒸馏、测试、部署五大功能,只需简单操作,即可完成语言模型从训练到部署的完整链路。
AiNLP管控台
二、已落地数十个应用,助推AI进入大工业时代开源AliceMind,会带来哪些好处?
达摩院深度语言模型团队负责人黄松芳告诉我们,对于阿里而言,语言模型的落地应用是一个系统工程,不是一个企业能做成的。
因此,通过开源,阿里希望和社区一起来推动语言模型的落地,也在这个过程中,进一步完善和提升AliceMind。
对于外部来说,AliceMind开源降低业界研究和创新应用的门槛,助推语言AI进入大工业时代。
外部开发者可以基于此,快速地搭建智能的NLP引擎,大大降低对于人工标注数据的依赖,也降低了AI从业者的入门门槛。
更重要的是,这将能够大幅提升改善或者超过传统机器学习方法效果。
如果用炼钢来类比,以前训练一个NLP模型,得从铁矿石开始炼钢,周期长,费用高,产量低。
而开源预训练语言模型的好处在于,已经给你提供了现成的粗钢,你需要做的,只是将粗钢炼成所需的特定钢材,这使得开发效率大为提升。
此前,AliceMind已具备阅读、写作、翻译、问答、搜索、摘要生成、对话等多种能力,落地于跨境电商、客服、广告等数十个核心业务应用。
AliceMind诗词生成示例
以云小蜜智能客服场景为例,StructBERT和PALM等模型被深度运用于FAQ匹配、QA挖掘和Paraphrase数据增强等业务,其中匹配模型帮助将政务行业top1准确率提升2.9%,并支持了疫情问答在九个地市机器人上线应用。
在阿里之外,AliceMind还被应用于医疗、能源、金融等多个行业。
比如,在电力能源领域,浙江电网公司以AliceMind为底座为员工构建了智能化运维平台,应用于变压器检修、供电抢修等业务,已开始在国家电网公司统一推广。
再比如,AliceMind在阿里云医疗行业应用于病历质检和健康档案产品,落地几十家医院。
而在AliceMind开源后,它将进一步推动语言AI走向可规模化复制的大工业时代。
AliceMind官网:https://nlp.aliyun.com/portal#/alice
三、体系内的不同模型:各有侧重,理念共通总体来看,AliceMind具有覆盖模型全面、技术领先、开放普惠的特点,它将围绕“预训练+精调”语言模型持续进行生态性的技术开源。
在“预训练”阶段,模型从大规模文本中学习到词与词的搭配关系,及句子之间的上下文关系等语言通用知识。
文章来源:《语言研究》 网址: http://www.yyyjzzs.cn/zonghexinwen/2021/0622/994.html