英特尔协同百度飞桨加速人工智能应用,共探文化保护与传承新路

开发框架与基础硬件携手,AI的社会价值在文化领域深度彰显

语言是人类进行沟通交流的表达方式,其储存着丰富的文化信息,传承着民族血脉,也支撑着文明的发展与演进。然而,一些少数民族语言、方言却正在无声无息地消失,与之密切相连的地域文化、历史文化也正面临濒危风险。

“大约平均两周就会有一种语言消亡“,联合国教科文组织的这一调查数据让人触目惊心,且世界上正在使用的约6,000种语言,至少有43%面临濒危[1]。而在中国,也有25种语言使用人口已不足千人[2]。

抢救濒危少数民族语言对保持汉语的丰富性、多元性,保护文化记忆、文化基因意义重大。因此,中国早在2015年就启动了语言资源保护工程,借助田野调查,建立起庞大的口语语料库,保存了原始声音文件和国际音标标注等丰富素材。

英特尔协同百度飞桨加速人工智能应用,共探文化保护与传承新路

然而,仅仅依靠这些单语数据,研究者难以获知其背后所传达的语义,无法有效开展相关学习与研究,更罔论留存这些少数民族濒危语言与背后地方文化的生命力。

人工智能技术为复活这些语言,挖掘多元文化价值,传承璀璨的历史文化,提供了新思路和新手段。2022年国际母语日也将“利用技术促进多语言学习:挑战与机遇”作为主题,指出了技术对推进多语言教育以及文化传承与保护的作用。

百度飞桨深度学习平台携手英特尔,基于第三代英特尔® 至强® 可扩展处理器进行深度优化,通过完善的模型压缩方法和量化加速技术,支持全自动生成大规模“汉语-少数民族语言”双向词典,对用技术帮助保护濒危少数民族语言,推动民族互通互融,做出了积极探索,展现了“科技向善”的现实意义和历史价值。

英特尔协同百度飞桨加速人工智能应用,共探文化保护与传承新路

采用百度飞桨深度学习平台,全自动构建大规模双向词典

构建双向词典项目,采用了规模大、范围广、语种多、内容丰富的濒危语言博物馆馆藏源语料库,语料全部来自于田野调查与实地采集。

通过分析,项目研发人员选取了中国少数民族语言中的独龙、尔苏、嘉绒、撒拉这四种数据较为丰富的语言作为实验对象。

为基于百度飞桨实现对齐算法,项目团队首先开发了民间故事汉语数据集。开发过程中,充分利用飞桨PaddleOCR开发套件识别精度高、推理速度快等特性,对跨度8年的《故事会》杂志扫描样本进行数据化处理,构建出规模达950万字的文本数据集,也是全球首个民间故事汉语数据库,且具有很强的口语化风格,适合与少数民族语言语料进行对齐。

英特尔协同百度飞桨加速人工智能应用,共探文化保护与传承新路

然后,实施低资源词向量训练,应对四个少数民族语料句子数量普遍不足五千条的挑战,以及《故事会》语料小于二十万条句子的问题,为下游的双语对齐提供了强有力的支持。

继之,依据拓扑特征,对两种语言的词向量进行旋转和对齐,实施双语词典自动化抽取,最终导出了独龙、尔苏、嘉绒、撒拉这四种语言和汉语的双向词典。

目前,这四部双向词典已在中国社科院民族学和人类学研究所志愿者的协助下,进行了内部评测,仅发现含有少量误差。这一可喜成果,验证了基于百度飞桨深度学习平台,智能生成大规模汉语-少数民族语言词典的可行性和便捷性,展现了人工智能对于应对语言濒危日益严峻挑战的高效性和高价值。

英特尔与百度飞桨软硬协同优化,用智能探索文化保护新路

双向词典项目依托飞桨深度学习技术,高效实现了濒危语言词典的自动化生成,极大减轻了语保工作者的负担。而其背后是英特尔所提供的英特尔® 至强® 可扩展平台具备的强劲算力和多种优化措施,为飞桨平台高效支撑项目运作提供了基础能力和量化加速。

业界尽知,人工智能应用不仅需要高算力作为支撑,而且源于大多数深度学习模型使用32位浮点精度(FP32)构建,复杂度高,模型参数量大,限制了其在一些场景和设备进行部署,需要实施软硬结合优化,才能突破性能瓶颈,高效承载诸如上文双向词典生成等多类应用。

英特尔协同百度飞桨加速人工智能应用,共探文化保护与传承新路

针对上述问题,英特尔携手百度飞桨,基于第三代英特尔® 至强® 可扩展处理器、英特尔® oneAPI工具套件等软硬件组合,在为飞桨平台提供充裕算力的同时,也对整个深度学习流程实施全方位优化,帮助加速各类应用开发和量化部署。

第三代英特尔® 至强® 可扩展处理器依托出色的微架构,发挥多核心、多线程和大容量高速缓存等特性,很好地满足了飞桨平台对通用算力的苛刻需求,同时加持以其内置的英特尔® AVX-512提供的增强矢量处理能力,提升AI 推理和训练效率,为图像分类、自然语言处理、语音识别、语音翻译等广泛的应用开发和部署提供稳健基石。而最新一代的第四代英特尔® 至强® 可扩展处理器更内置一系列加速器,包括全新的AI加速器——英特尔®高级矩阵扩展(英特尔®AMX),覆盖包括训练和微调在内的更多深度学习使用场景,可以为不断变化且要求日益增高的应用提供更为可观的计算性能。

为满足模型快速“瘦身”之需,百度飞桨打造了PaddleSlim深度学习模型压缩工具库,以及为用户提供灵活的压缩策略,而英特尔® 至强® 可扩展处理器内置的AI加速技术–英特尔® 深度学习加速(英特尔® DL Boost),可通过矢量神经网络指令(VNNI)充分提高计算资源和缓存的利用率,减少潜在的带宽瓶颈,为INT8等低精度计算提供优化支持,显著加速AI 推理。由此,帮助飞桨PaddleSlim所支持的量化训练和静态离线量化方法,更好地适用于计算机视觉(CV)和自然语言处理 (NLP)等模型优化过程,这无疑也为双向词典AI方案的开发提供了便利,同时提高了项目运作效率。

英特尔协同百度飞桨加速人工智能应用,共探文化保护与传承新路

同时为激活 VNNI 加速功能,百度飞桨深度学习平台在量化方案实施中还广泛使用英特尔® oneAPI 工具套件,如英特尔® oneAPI 深度神经网络库 (Intel® oneAPI Deep Neural Network Library,英特尔® oneDNN)。借助其统一、简化的编程模型,飞桨用户得以在CPU、GPU和FPGA等不同的架构上方便地调用通用接口来使用平台内置的AI加速技术,而无需担心平台兼容问题。

得益于英特尔® 至强® 可扩展平台与多项优化工具的支持,百度飞桨深度学习平台实现了深度优化,并不断丰富模型资源及应用开发套件,为用户提供了优异的模型及硬件加速体验。而双向词典项目在推动少数民族语言保护领域展现的神奇魔力,就是其典型案例。

“十四五”规划把“强化重要文化和自然遗产、非物质文化遗产系统性保护、推动中华优秀传统文化创造性转化、创新性发展”,作为提高社会文明程度的重要举措;今年的工作报告也强调了“传承中华优秀传统文化,满足人民日益增长的精神文化需求”,对铸就文化新辉煌的重要作用。

英特尔携手百度飞桨践行“科技向善”,优化开源平台,促进濒危语言保护,不仅延续和发扬了语言背后蕴含的文化、知识遗产及其价值,更探索出智能技术赋能的新路;也是英特尔继用人工智能助力长城修缮,通过计算、存储、网络全栈优化解决方案帮助云冈石窟文物保护等,持续展现创新技术对挖掘与传承璀璨历史文化、实现创新创造的新动能的又一成功实践,有助于在让历史智慧照进未来,让宝贵文化遗产丰富人们精神世界的同时,进一步加速人工智能的拓展应用,助力拥抱数字化浪潮,创造更美好的生活。

[1] 如欲了解更多详情请访问:https://www.un.org/zh/observances/mother-language-day%20

[2]如欲了解更多详情请访问:https://epaper.gmw.cn/zhdsb/html/2022-01/19/nw.D110000zhdsb_20220119_1-06.htm

本文来自投稿,不代表创造权威IP 赋能创业者——IP百创立场,如若转载,请注明出处:创造权威IP 赋能创业者——IP百创

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年1月13日
下一篇 2023年1月13日

相关推荐

  • 金蝶予力全球伙伴,“AI+管理”共创世界一流生态!

    3月1日,以“予力伙伴,世界一流”为主题的2025年金蝶集团全球生态合作伙伴大会在丝绸之路起点西安隆重举行。西安高新区党工委副书记、管委会主任陈辉,秦商总会党委书记刘阿津,金蝶集团董事会主席兼CEO徐少春,金蝶集团总裁章勇,通威股份CIO周勇,软通集团董事黄颖,火山引擎大模型算法负责人王科等政商领导、行业领袖和专家出席了本次盛会,与来自中国、东南亚、中东、欧…

    2025年3月3日
  • 链家理房通合并银联商务旗下支付机构

    #理房通全资持股北京数字王府井# 天眼查App显示,近日,北京数字王府井科技有限公司发生工商变更,原股东银联商务支付股份有限公司、北京东方文化资产经营有限公司退出,新增北京理房通支付科技有限公司为全资股东,经营范围去除接受金融机构委托从事金融业务流程外包服务,银行卡收单、预付卡受理等,同时,公司法定代表人及主要人员均发生变更。 北京数字王府井科技有限公司成立…

    行业动态 2024年8月5日
  • 中远海发旗下海运公司增资至12亿增幅约46%

    天眼查工商信息显示,近日,海南中远海发海运有限公司发生工商变更,注册资本由8.2亿人民币增至12亿人民币,增幅约46%,同时,姜丽萍卸任监事职务。 该公司成立于2024年10月,法定代表人为胡不为,经营范围含国际客船、散装液体危险品船运输,省际普通货船运输、省内船舶运输,水路普通货物运输,水路危险货物运输,国内船舶管理业务等。股权全景穿透图显示,该公司由海南…

    2025年11月5日
  • 沃尔玛百货江苏公司经营异常

    天眼风险信息显示,近日,江苏沃尔玛百货有限公司因通过登记的住所或者经营场所无法联系,被江苏省市场监督管理局列入经营异常名录。 天眼查显示,该公司成立于2007年9月,法定代表人为Andrew Peter Miles,注册资本860万美元,经营范围包括预包装食品、散装食品、保健食品、特殊医学用途配方食品、生鲜农产品的销售等,由沃尔玛(中国)投资有限公司全资持股…

    2024年9月10日
  • 长沙高新区、经开区两大园区上榜!2024中国园区高质量百强出炉

    8月14日,赛迪顾问发布了《2024年中国园区经济高质量发展研究报告》,并同步揭晓了2024年园区高质量发展百强榜单。在这场激烈的角逐中,湖南省以长沙高新区和长沙经开区两大园区脱颖而出,分别荣登榜单的第19位和第35位。 值得一提的是,长沙高新区较上一年度晋升一位,位列第19位,蝉联湖南省入围榜单园区的首位。自1988年创建以来,长沙高新区历经风雨洗礼,于1…

    2024年8月14日

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

邮件:939297903@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信