百度发布文心4.5 Turbo、X1 Turbo两大模型,王海峰详解背后技术

4月25日,Create2025百度AI开发者大会在武汉举办。百度创始人李彦宏发布了文心大模型4.5 Turbo及深度思考模型X1 Turbo两大模型,以及多款AI应用。百度首席技术官王海峰现场详细解读了背后的技术。

百度发布文心4.5 Turbo、X1 Turbo两大模型,王海峰详解背后技术

两大模型连发!核心技术详解

王海峰介绍,文心大模型4.5是多模态基础大模型,文心4.5 Turbo源自文心4.5,效果更好、成本更低;基于文心4.5 Turbo,文心X1升级到X1 Turbo,性能提升的同时,具备更先进的思维链,问答、创作、逻辑推理、工具调用和多模态能力进一步增强。在C-Eval、CMMLU、MathVista、Math500等多个基准测试集中,文心4.5 Turbo和X1 Turbo跟DeepSeeK与GPT模型相比,效果在伯仲之间。

百度发布文心4.5 Turbo、X1 Turbo两大模型,王海峰详解背后技术

大会现场,王海峰从基础模型、后训练、深度思考和数据等方面解读了文心4.5 Turbo和X1 Turbo的关键技术。

文心4.5和4.5 Turbo都是多模态大模型,实现了文本、图像和视频的混合训练。针对不同模态数据在结构、规模、知识密度上的差异,通过多模态异构专家建模、自适应分辨率视觉编码、时空重排列的三维旋转位置编码、自适应模态感知损失计算等技术,大幅提升跨模态学习效率和多模态融合效果,学习效率提高近2倍,多模态理解效果提升超过30%。

后训练方面,百度研制了自反馈增强的技术框架,基于大模型自身的生成和评估反馈能力,实现了“训练-生成-反馈-增强”的模型迭代闭环,不仅解决了大模型对齐过程中,数据生产难度大、成本高、速度慢等问题,而且显著降低了模型幻觉,模型理解和处理复杂任务的能力大幅提升。

在训练阶段,研制了融合偏好学习的强化学习技术,通过多元统一奖励机制,提升了对结果质量判别的准确率,通过离线偏好学习和在线强化学习统一优化,进一步提升了数据利用效率和训练稳定性,并增强了模型对高质量结果的感知。得益于偏好信号与奖励信号的融合运用,模型的理解、生成、逻辑和记忆等能力全面提升。

深度思考方面,突破了仅基于思维链优化的范式,在思考路径中结合工具调用,构建了融合思考和行动的复合思维链,模型解决问题能力得到显著提升。同时,结合多元统一的奖励机制,实现了思考和行动链的端到端优化,大幅提升了跨领域的问题解决能力。

数据方面,打造了“数据挖掘与合成 – 数据分析与评估 – 模型能力反馈”的数据建设闭环,为模型训练源源不断地生产知识密度高、类型多样、领域覆盖广的大规模数据。同时,数据建设流程具备良好的可扩展性,能够轻松迁移到全新的数据类型,实现快速、高效的数据生产。

文心快码发布3.5版本,累计服务760万开发者

基于文心大模型的语言和代码能力,百度研制了代码智能体和智能代码助手——文心快码。代码智能体,基于智能体的理解、规划、反思,以及工具调用能力,用自然语言对话,即可实现应用的自动开发,并支持多轮交互,迭代优化代码质量,实现了无代码编程,让人人都可以成为程序员。

智能代码助手,帮助专业的程序员更高效地写出更好的代码。据介绍,文心快码3.5版主要突破了四大核心能力:一是代码智能体引擎,支持多模态编程、开发工具调用、应用预览,实现「需求-编码-调试-验证」端到端生成;二是代码预测改写引擎,新增光标预测与多行智能改写,可精准实现复杂的代码的增加、删除和修改;三是上下文引擎,结合文心4.5和X1的推理能力,更懂开发者意图,回答问题更准确;最后是更开放的研发生态,通过MCP接入协议,全面兼容主流开发工具链。目前百度每天新增的代码中,文心快码生成的代码占比已超过40%。最新数据显示,文心快码向全社会开放,累计服务760万开发者。

飞桨文心联合优化,开发者已达2185万

文心大模型的能力拓展和效率提升,得益于飞桨文心的联合优化。比如,训练方面,多模态统一的掩码注意力加速,在不同模态混合计算注意力时,显著降低掩码构建和计算开销,大幅提升训练性能;推理方面,多模态流式分块预填充机制,减少首token耗时,同时减少推理计算的显存峰值,提升推理批次大小,提升吞吐性能。通过这些联合优化技术,文心4.5 Turbo训练吞吐达到文心4.5的5.4倍,推理吞吐达到8倍。

从现场我们了解到,飞桨框架3.0既延续了动静统一、训推一体的技术特色,更在自动并行、神经网络编译器、高阶自动微分等方面创新突破。例如,动静统一自动并行,使得大模型分布式训练代码减少80%;大模型训推一体,帮助强化学习训练提速114%;科学计算高阶微分,微分方程求解速度比 PyTorch 快115%;神经网络编译器,提升框架通用性能,模型端到端训练速度提升27%;异构多芯适配,飞桨已适配国内外60多个系列芯片。

百度发布文心4.5 Turbo、X1 Turbo两大模型,王海峰详解背后技术

截至目前,飞桨文心开发者数量已超过2185万,服务超过67万家企业,创建的模型达到110万。

大模型让文博知识触手可及,首个“非遗武术大模型”发布

随着人工智能技术加速进步,大模型在千行百业的应用也越来越深入。例如,在文博领域,百度与中国文物交流中心达成深度合作,增强大模型在文博领域专业知识,并发布首个文博智能体,用AI的力量让文博知识触手可及,让每个人都成为文博传承的参与者与受益者;在非遗武术传承领域,百度与上海体育大学武术学院、中国武术博物馆馆联合发布“非遗武术-百度文心大模型”,基于文心大模型,融合上海体育大学武术学院、中国武术博物馆的专业积淀,将武术技法与算法结合,通过3D动作建模、AI动态纠错等技术,将非遗武术技术动作以数字化的形式保存和记录下来。

活动最后,第十二届百度奖学金颁奖典礼在现场举办。作为国内外AI领域资助金额与含金量最高的学术奖学金之一,百度奖学金自2013年设立以来,已累计发放超千万元资金。王海峰为来自全球顶尖高校的10位获奖选手颁发奖学金,每人20万元。这不仅是对获奖选手学术成果的认可,也彰显了百度对AI人才培养的长期承诺。

本文来自投稿,不代表创造权威IP 赋能创业者——IP百创立场,如若转载,请注明出处:创造权威IP 赋能创业者——IP百创

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年4月25日 下午3:11
下一篇 2025年4月25日 下午5:55

相关推荐

  • 游戏IP的品牌之道:破圈与长青的营销密码​

    2024年前三季度,中国游戏IP市场实际销售收入已达1960亿元,其中客户端游戏IP占比高达62.3%,较去年同期大幅提升9个百分点,移动游戏IP占比24.3%。与此同时,用户调研结果显示,超90%的受访用户近一年中使用过IP相关产品。2024年1—9月,主要文娱领域流水TOP10产品中,TOP10游戏产品占据超七成份额。 这些来自2024年度游戏IP生态大…

    2024年11月8日
  • 2022年综艺盘点:综N代持续霸屏,回忆杀成爆款秘诀

    ​作者| 把青 编辑| 袁佳琦 2022年已然落下帷幕,回顾2022年的综艺市场,“回忆杀”成为了这一年的爆款秘诀:随着《浪姐3》的播出,王心凌的《爱你》在上半年重新席卷全网;0713再就业男团在芒果综艺《快乐回来了》播出后,在观众的呼声下录制团综《快乐再出发》在豆瓣拿下9.6的高分。 而湖南卫视的回忆的确足够“杀”,两档长青的王牌综艺都划下句点。上线24年…

    行业动态 2023年1月5日
  • 联想集团:内功提升盖过外在增长,未来十年发展红利确立

    相比整体业绩的逆市增长而言,联想集团Q1财报所释放出来的更难得信息是其是业务、收入和利润结构的大幅优化。

    2022年8月11日
  • 群「模」乱舞的AI手机为拔起钉子户,又要计划性报废了?

    已经持续了好多年,用高大上的场地、震撼的舞美、最顶流的明星,以及怼天怼地怼友商充场的手机行业新品发布会,似乎正在发生变化。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍ 比如,他们终于可以在发布会上,讲点新的东西了……‍‍ 大家都知道的,自从AI大模型概念火起来后,上市公司只要蹭蹭大模型的热点,股价就能蹭蹭往上涨,「庄家们」转眼就套现享…

    2024年7月18日
  • 对话荣耀方飞:揭秘Magic5三年磨一舰的背后故事

    “今天,研发小伙伴们都非常激动,有一股扬眉吐气的感觉,这几年我们憋着一股劲要证明自己,现在看到业界对Magic5系列手机的正向反馈,我们非常欣慰!” 荣耀终端产品线总裁方飞在荣耀Magic5系列手机发布会后这样说。 的确,荣耀Magic5系列发布堪称是一次现象级的行业事件,数千人的会场座无虚席,会场内外掌声与好评不断,外界称之为“质变”产品,鹰眼相机、青海湖…

    2023年3月9日

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

邮件:939297903@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信