大模型时代,昇思跑出创新使能“加速度”

当下最火的是什么?绝对是人工智能。在人工智能发展的过程中,人工智能框架扮演着至关重要的角色,它为开发者提供了一个高效、灵活、便捷的开发工具,加速人工智能技术的创新和应用。

昇思MindSpore,是国内主流的开源框架,开源四年来发展迅速。3月22日,昇思人工智能框架峰会2024上披露的数据显示:访问量已达数千万,超过687万下载安装使用,在码云千万开源项目中综合排名第一,服务企业数量超过5500家,合作高校360所,2023年以来基于昇思框架发表的顶级会议论文数量超过1200篇,在所有AI框架中排名中国第一,全球第二。

大模型时代,昇思跑出创新使能“加速度”

值得注意的是,昇思MindSpore在大模型时代使能创新的技术进步也在提速,正在跑出应用的“加速度”。

昇思跑出应用“加速度”

商汤科技,是AI领域的领军企业,其打造的SenseCore商汤大装置搭建了完善的AI原生基础设施,包括算力基础架构、大模型生产平台、模型即服务。

这背后就有昇思的助力。商汤科技联合创始人、大装置事业群总裁杨帆透露,商汤与昇思共建大模型训练新生态,具有大模型专家并行训练优化、超长序列大模型训练实现、大模型训练性能提升、大规模异构算力兼容等技术特点。其中通过昇思支持并优化具有万亿参数规模的混合专家模型(MoE)训练的效率,相比FasterMoE等系统提升30%的训练性能,解决了当前深度学习模型规模扩大带来的计算和通信瓶颈问题。

而通过昇思高效实现相关策略,商汤解决了长序列训练中的显存、通信和计算瓶颈,实现了32k到1M级别序列长度transformers模型训练,提升了模型处理能力和应用范围。

无独有偶,另一家在大模型领域处于前列的百川智能同样得到了昇思的助力。百川智能发展迅速,成立以来平均每28天发布一款新模型,其开源模型Huggingface总下载量超过700万次,在业界居领先水平。

百川智能技术联合创始人陈炜鹏透露,百川智能和华为的工程师一起实现了百川系列模型在昇思框架上的预训练、微调、部署等,基于昇思训练,算力利用率提升了一倍,双方也在联合探索万亿MoE架构模型的创新和优化。百川开源大模型首发上线昇思社区,昇思大模型平台提供在线体验服务。据了解,百川智能与鹏城实验室合作研发的“鹏城-百川-脑海33B”长窗口大模型,是算力平台上最长的上下文窗口模型。

大模型时代,昇思跑出创新使能“加速度”

IDC中国副总裁钟振山表示,人工智能开源框架是产业发展的基石和纽带,目前开源框架在互联网行业渗透度最深,同时金融、工业、零售、医疗等领域也有相对更多的人使用。昇思MindSpore在生态建设方面取得了优异的成绩。

笔者注意到,昇思在其他领域的应用也在提速。例如,中国科学院院士、中国空气动力学会理事长唐志共表示,其团队基于昇思AI框架自主创新开发的生成式气动设计大模型平台,在模型的开发、训练、部署等阶段都获得了很大助力,打破了传统设计范式,飞行器的气动外形设计时长从之前的月级缩短到分钟级。

昇思人工智能框架峰会2024上展示的数据展现出昇思在开源后的应用加速度,据预估,在2023年新增人工智能算力覆盖的深度学习框架市场份额中,昇思MindSpore占比达18%,原生、适配大模型从20+增长到40+。

昇思正在跑出助力千行百业智能化的“加速度”。

向下扎到根,向上育生态

为什么昇思在如此短的时间内就发展迅猛,尤其是能加快进入千行百业?归结起来,是:向下扎到根,向上育生态。

向下扎到根,是昇思开源社区始终聚焦根技术,不断进行技术创新。以刚发布的昇思MindSpore 2.3版本为例,就瞄准大模型时代,解决了诸多痛点,堪称是大模型时代的首选AI框架。

具体来说,大模型正在从千亿的稠密走向万亿的稀疏,这让人工智能框架的并行计算能力、简洁的编程能力、便捷的部署能力成为大模型训练的关键要素。昇思MindSpore 2.3版本就是这样,其以原创的多副本、多流水交织等八种并行技术,达到了90%的集群线性度,相比业界不足60%的水平大幅提升,而通过整图优化和下沉执行等,将算力利用率从业界的不足40%提升到55%。针对集群故障率高、恢复时间长等普遍问题,昇思通过编译快照、确定性CKPT等技术将故障恢复时间降低到20分钟。同样,昇思通过训推一体大幅缩短了大模型的推理部署周期,通过LLM Serving将推理吞吐提升2倍多,升级的模型压缩工具实现了千亿大模型压缩至10倍。

大模型时代,昇思跑出创新使能“加速度”

昇思MindSpore技术总经理于璠这样总结昇思MindSpore 2.3版本:开发效率倍增、效能倍增、推理成本倍降。这一切,都是根技术深耕的力量,昇思已经做好了应对万亿参数大模型时代的技术准备。

向上育生态,是昇思MindSpore开源社区持续打造生态,赋能开发者,不断推动昇思应用生态的繁荣壮大。在这次峰会上,昇思赋能学术和生态的四项行动发布。如其中的昇思开发板应用创新行动,基于香橙派开发板,提供系统化的案例、教程和支持,降低了开发者上手和打造应用的门槛。而专项的技术支持和市场联合推广行动,也将加速原生大模型的孵化速度。

大模型需要和各行业深度融合,落地部署为应用才能转化为生产力。昇思就走在这样的路上:向下扎到根,让昇思AI框架能够形成“洞察痛点-技术创新-解决痛点”的正循环;向上育生态,让昇思的生态圈不断繁荣,尤其是推动大模型和行业走向深度融合。

后记:人工智能“+”千行百业

今年的全国两会,首次将“人工智能+”写入政府工作报告,引发业界的极大关注。

一方面,“人工智能+”意味着国家对人工智能的高度重视,将人工智能的发展放到战略级高度。就像中国工程院院士、中国人工智能学会副理事长何友所说,人类社会发展已经迈过了蒸汽机时代、电气化时代、机械化时代、信息时代,在这些时代里中国主要是旁观者和跟随者,今天在经历着向人工智能发展的变迁过程。基于国家的创新战略、人才优势、巨大的市场和强大的国力,我国一定会成为新时代的参与者、推进者、见证者。

另一方面,“人工智能+”意味着人工智能只有赋能千行百业才能真正落地转化为价值。这也是昇思这样的人工智能框架的价值所在。昇思人工智能框架作为算法应用和硬件算力之间的桥梁,持续帮助用户解决部署挑战。从大的维度看,昇思人工智能框架也是人工智能技术与千行百业之间的桥梁,成为人工智能赋能千行百业智能化的关键基座。

换句话说,从某种程度上说,昇思人工智能框架就承担着“人工智能+”中的“+”的角色。

可以相信,伴随昇思MindSpore开源社区的壮大,根技术不断耕耘,生态圈持续繁荣,千行百业智能化将能进一步按下加速键。

 

本文来自投稿,不代表创造权威IP 赋能创业者——IP百创立场,如若转载,请注明出处:创造权威IP 赋能创业者——IP百创

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2024年3月27日
下一篇 2024年3月27日

相关推荐

  • 李书福卸任极氪董事长

    #淦家阅接任极氪法定代表人# 天眼查App显示,近日,浙江极氪智能科技有限公司发生工商变更,李书福卸任董事长,安聪慧卸任法定代表人,由淦家阅接任法定代表人。 该公司成立于2021年7月,注册资本130亿人民币,经营范围包括数据处理服务、数据处理和存储支持服务、互联网数据服务、大数据服务等,由Zeekr Technology Limited全资持股。 天眼查信…

    2026年6月11日
  • 陈娴分手后成立新公司

    #陈娴近30日掉粉2.7万##陈闲分手了# 据报道,网红陈闲闲闲(陈娴)于2025年9月29日通过直播官宣与男友已和平分手近两个月。 天眼查App显示,8月25日,清远市溯溯闲之文化创意有限公司成立,法定代表人为钟焕宜,注册资本30万人民币,经营范围包括组织体育表演活动、个人商务服务、销售代理等。股东信息显示,该公司由杭州北冥有椿文化传媒有限公司等共同持股。…

    2025年9月29日
  • 大唐发电在唐山成立新能源公司

    天眼查App显示,近日,大唐(唐山市丰南区)新能源有限公司成立,法定代表人为刘军,注册资本50万人民币,经营范围包括风力发电技术服务、发电技术服务、太阳能发电技术服务等。股东信息显示,该公司由大唐发电全资持股。 天眼查信息:https://www.tianyancha.com/company/7695948489

    2025年8月28日
  • 千禾味业增资至10.2亿

    天眼查App显示,近日,千禾味业发生工商变更,注册资本由约7.99亿人民币增至约10.28亿人民币,同时多位主要人员发生变更。 千禾味业食品股份有限公司成立于1996年1月,法定代表人为伍超群,经营范围含食品生产、食品销售、食品添加剂生产、饲料生产、饲料添加剂生产、粮食加工食品生产等,由伍超群、伍建勇、香港中央结算有限公司、伍学明等共同持股。 天眼查信息:h…

    2024年6月14日
  • 杭州口碑医药公司更名为玛上就送大药房

    天眼查工商信息显示,近日,杭州口碑医药有限公司发生工商变更,企业名称变更为浙江玛上就送大药房有限公司,原股东口碑(上海)信息技术有限公司退出,新增饿了么关联公司拉扎斯网络科技(上海)有限公司全资持股,同时财务负责人发生变更。 该公司成立于2020年4月,注册资本1000万人民币,经营范围包括药品批发、药品零售、第三类医疗器械经营等。 天眼查信息:https:…

    2025年8月18日

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

邮件:939297903@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信