华为AI模型运行专利公布

天眼查App显示,9月5日,华为技术有限公司申请的“AI模型的运行方法、装置、程序产品和存储介质”专利公布。

华为AI模型运行专利公布

华为AI模型运行专利公布

摘要显示,本公开属于机器学习技术领域。该方法应用于主机,主机包括处理器,并连接计算卡,该方法包括:处理器确定AI模型相邻的两组输入数据中在第二数据组中但不在第一数据组中的第一数据,第二数据组在第一数据组之后训练,将第一数据对应的第一嵌入向量预取至处理器的第一内存,并确定第一数据对应的第一嵌入向量信息,在第二数据组在计算卡上处理过程中,根据第一嵌入向量信息将第一嵌入向量从第一内存预取至计算卡的第二内存。采用本公开所示的方案,能够减少嵌入向量搬运带来的处理延时。

本文来自投稿,不代表创造权威IP 赋能创业者——IP百创立场,如若转载,请注明出处:创造权威IP 赋能创业者——IP百创

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年9月5日
下一篇 2025年9月5日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

邮件:939297903@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信