大模型时代,昇思跑出创新使能“加速度”

当下最火的是什么?绝对是人工智能。在人工智能发展的过程中,人工智能框架扮演着至关重要的角色,它为开发者提供了一个高效、灵活、便捷的开发工具,加速人工智能技术的创新和应用。

昇思MindSpore,是国内主流的开源框架,开源四年来发展迅速。3月22日,昇思人工智能框架峰会2024上披露的数据显示:访问量已达数千万,超过687万下载安装使用,在码云千万开源项目中综合排名第一,服务企业数量超过5500家,合作高校360所,2023年以来基于昇思框架发表的顶级会议论文数量超过1200篇,在所有AI框架中排名中国第一,全球第二。

大模型时代,昇思跑出创新使能“加速度”

值得注意的是,昇思MindSpore在大模型时代使能创新的技术进步也在提速,正在跑出应用的“加速度”。

昇思跑出应用“加速度”

商汤科技,是AI领域的领军企业,其打造的SenseCore商汤大装置搭建了完善的AI原生基础设施,包括算力基础架构、大模型生产平台、模型即服务。

这背后就有昇思的助力。商汤科技联合创始人、大装置事业群总裁杨帆透露,商汤与昇思共建大模型训练新生态,具有大模型专家并行训练优化、超长序列大模型训练实现、大模型训练性能提升、大规模异构算力兼容等技术特点。其中通过昇思支持并优化具有万亿参数规模的混合专家模型(MoE)训练的效率,相比FasterMoE等系统提升30%的训练性能,解决了当前深度学习模型规模扩大带来的计算和通信瓶颈问题。

而通过昇思高效实现相关策略,商汤解决了长序列训练中的显存、通信和计算瓶颈,实现了32k到1M级别序列长度transformers模型训练,提升了模型处理能力和应用范围。

无独有偶,另一家在大模型领域处于前列的百川智能同样得到了昇思的助力。百川智能发展迅速,成立以来平均每28天发布一款新模型,其开源模型Huggingface总下载量超过700万次,在业界居领先水平。

百川智能技术联合创始人陈炜鹏透露,百川智能和华为的工程师一起实现了百川系列模型在昇思框架上的预训练、微调、部署等,基于昇思训练,算力利用率提升了一倍,双方也在联合探索万亿MoE架构模型的创新和优化。百川开源大模型首发上线昇思社区,昇思大模型平台提供在线体验服务。据了解,百川智能与鹏城实验室合作研发的“鹏城-百川-脑海33B”长窗口大模型,是算力平台上最长的上下文窗口模型。

大模型时代,昇思跑出创新使能“加速度”

IDC中国副总裁钟振山表示,人工智能开源框架是产业发展的基石和纽带,目前开源框架在互联网行业渗透度最深,同时金融、工业、零售、医疗等领域也有相对更多的人使用。昇思MindSpore在生态建设方面取得了优异的成绩。

笔者注意到,昇思在其他领域的应用也在提速。例如,中国科学院院士、中国空气动力学会理事长唐志共表示,其团队基于昇思AI框架自主创新开发的生成式气动设计大模型平台,在模型的开发、训练、部署等阶段都获得了很大助力,打破了传统设计范式,飞行器的气动外形设计时长从之前的月级缩短到分钟级。

昇思人工智能框架峰会2024上展示的数据展现出昇思在开源后的应用加速度,据预估,在2023年新增人工智能算力覆盖的深度学习框架市场份额中,昇思MindSpore占比达18%,原生、适配大模型从20+增长到40+。

昇思正在跑出助力千行百业智能化的“加速度”。

向下扎到根,向上育生态

为什么昇思在如此短的时间内就发展迅猛,尤其是能加快进入千行百业?归结起来,是:向下扎到根,向上育生态。

向下扎到根,是昇思开源社区始终聚焦根技术,不断进行技术创新。以刚发布的昇思MindSpore 2.3版本为例,就瞄准大模型时代,解决了诸多痛点,堪称是大模型时代的首选AI框架。

具体来说,大模型正在从千亿的稠密走向万亿的稀疏,这让人工智能框架的并行计算能力、简洁的编程能力、便捷的部署能力成为大模型训练的关键要素。昇思MindSpore 2.3版本就是这样,其以原创的多副本、多流水交织等八种并行技术,达到了90%的集群线性度,相比业界不足60%的水平大幅提升,而通过整图优化和下沉执行等,将算力利用率从业界的不足40%提升到55%。针对集群故障率高、恢复时间长等普遍问题,昇思通过编译快照、确定性CKPT等技术将故障恢复时间降低到20分钟。同样,昇思通过训推一体大幅缩短了大模型的推理部署周期,通过LLM Serving将推理吞吐提升2倍多,升级的模型压缩工具实现了千亿大模型压缩至10倍。

大模型时代,昇思跑出创新使能“加速度”

昇思MindSpore技术总经理于璠这样总结昇思MindSpore 2.3版本:开发效率倍增、效能倍增、推理成本倍降。这一切,都是根技术深耕的力量,昇思已经做好了应对万亿参数大模型时代的技术准备。

向上育生态,是昇思MindSpore开源社区持续打造生态,赋能开发者,不断推动昇思应用生态的繁荣壮大。在这次峰会上,昇思赋能学术和生态的四项行动发布。如其中的昇思开发板应用创新行动,基于香橙派开发板,提供系统化的案例、教程和支持,降低了开发者上手和打造应用的门槛。而专项的技术支持和市场联合推广行动,也将加速原生大模型的孵化速度。

大模型需要和各行业深度融合,落地部署为应用才能转化为生产力。昇思就走在这样的路上:向下扎到根,让昇思AI框架能够形成“洞察痛点-技术创新-解决痛点”的正循环;向上育生态,让昇思的生态圈不断繁荣,尤其是推动大模型和行业走向深度融合。

后记:人工智能“+”千行百业

今年的全国两会,首次将“人工智能+”写入政府工作报告,引发业界的极大关注。

一方面,“人工智能+”意味着国家对人工智能的高度重视,将人工智能的发展放到战略级高度。就像中国工程院院士、中国人工智能学会副理事长何友所说,人类社会发展已经迈过了蒸汽机时代、电气化时代、机械化时代、信息时代,在这些时代里中国主要是旁观者和跟随者,今天在经历着向人工智能发展的变迁过程。基于国家的创新战略、人才优势、巨大的市场和强大的国力,我国一定会成为新时代的参与者、推进者、见证者。

另一方面,“人工智能+”意味着人工智能只有赋能千行百业才能真正落地转化为价值。这也是昇思这样的人工智能框架的价值所在。昇思人工智能框架作为算法应用和硬件算力之间的桥梁,持续帮助用户解决部署挑战。从大的维度看,昇思人工智能框架也是人工智能技术与千行百业之间的桥梁,成为人工智能赋能千行百业智能化的关键基座。

换句话说,从某种程度上说,昇思人工智能框架就承担着“人工智能+”中的“+”的角色。

可以相信,伴随昇思MindSpore开源社区的壮大,根技术不断耕耘,生态圈持续繁荣,千行百业智能化将能进一步按下加速键。

 

本文来自投稿,不代表创造权威IP 赋能创业者——IP百创立场,如若转载,请注明出处:创造权威IP 赋能创业者——IP百创

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2024年3月27日
下一篇 2024年3月27日

相关推荐

  • 云生态的“华为模式”:“黑土地”上繁花似锦

    “华为云全方位助力百望云架构升级、降本增效、不断业务创新,支撑业务高速发展,期待携手共创更多业务场景。” “1+1>2,埃森哲携手华为云一起共同成就客户,帮助客户成功,加速“重塑”进程。” 这是1月16日在贵安“云上屯”举行的华为云生态大会2024上,一些生态伙伴的发言。 刚刚过去的2023年,对于很多企业来说是不确定性加剧的一年,但在华为云生态大会2…

    2024年1月17日
  • TCL华星携先进移动通信显示技术亮相MWC2025,联合产业伙伴打造臻图视界

    3月3日,在全球通信领域极具规模和影响力的世界移动通信大会(MWC2025)在巴塞罗那开幕。作为半导体显示领域的领军企业,TCL华星携自主研发及与行业客户共同研发的众多中小尺寸显示产品,在大会上重磅亮相。同时TCL华星展示了对先进显示技术品牌APEX臻图的深入应用,充分体现TCL华星对显示行业未来趋势的深刻洞察,以及在前沿显示上的全面布局。 APEX臻图深入…

    2025年3月4日
  • 漫威哑火,“进口片大年”还有戏吗?

    ​作者| 明明 编辑| 无花果 继上映半个多月、票房刚刚破亿的《黑豹2》之后,《蚁人与黄蜂女:量子危机》(以下简称“《蚁人3》”)也哑火了。 截至发稿前,《蚁人3》票房仅有2.2亿,猫眼专业版预测票房落点从3亿+下调至2亿+,上映第七天,单日票房冠军的位置已经让位于春节档老片《流浪地球2》。考虑到两部漫威大片前作票房分别为《黑豹》6.62亿,《蚁人》6.7亿…

    行业动态 2023年2月27日
  • 华为云张平安:坚持打造“算力黑土地”,加速行业智能跃迁

    8月28日,中国国际大数据产业博览会在贵州省贵阳市举办,华为常务董事、华为云计算CEO张平安在大会开幕式上表示,面对未来十年算力需求的数万倍增长,华为云将坚定不移地打造算力黑土地,充分发挥公司多年积累的联接技术优势和数据中心资源布局,以优的性能、好的服务、低的成本,通过昇腾AI云服务和Tokens服务满足客户的“最终计算结果”,加速行业智能跃迁。 华为常务董…

    2025年8月28日
  • 国药集团换帅完成工商变更

    #白忠泉任国药集团董事长# 天眼查App显示,近日,中国医药集团有限公司发生工商变更,刘敬桢卸任法定代表人、董事长,由白忠泉接任,同时多位主要人员也发生变更。 中国医药集团有限公司成立于1987年3月,注册资本约255.07亿人民币,由国务院、国家开发投资集团有限公司、中国国新控股有限责任公司共同出资。据媒体报道,6月16日晚,国药集团官方宣布,白忠泉接任中…

    行业动态 2024年7月23日

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

邮件:939297903@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信