同花顺-圈子

请广大用户注意风险,切勿加入站外群组或添加私人微信,如因此造成的任何损失,由您自己承担。
大模型“朋友圈”增5倍!百度智能云技术栈大升级,千帆大模型一体机发布
0人浏览 2024-04-09 18:03

  智东西 作者 | 李水青 编辑 | 心缘

  智东西4月9日成都报道,在今日举办的百度智能云GENERATE全球生态大会上,百度智能云围绕大模型技术栈发布了一系列产品权益和扶持计划,并推出一系列伙伴市场权益。

  在算力方面,百度百舸AI异构计算平台持续升级,据称大模型训练吞吐相比开源版本提升了30%~60%,有效训练时长达到98%,支持万卡级别的超大规模异构计算。百度智能云宣布启动智算战略伙伴招募,招募3+算力合作伙伴。

  在模型方面,百度智能云千帆ModelBuilder提供包括文心一言系列模型在内的77款精选大模型和全流程的模型工具链,并宣布新建全球首个千帆大模型创新实验室,与伙伴一起围绕10000+个应用场景进行联合创新。

  在应用开发方面,百度智能云千帆AppBuilder应用开发平台继续升级,宣布Agent首度支持应用创建全流程自动化,并将在下周上线工作流编排功能,从而降低大模型应用开发门槛。

  同时,百度智能云基于千帆开发了一些应用或“半成品”,供合作伙伴直接转售或进一步开发。比如智能编码辅助工具“Baidu Comate”、知识管理平台“甄知”等七大AI原生应用产品。百度智能云正式推出工业大模型底座,后续将推出政务、交通、汽车、金融等行业的技术/产品底座。此外,百度智能云还推出了千帆杯·AppBuilder大模型开发者专项激励政策。

  在应用售卖方面,百度智能云全新发布千帆AI原生应用商店招募计划,提供高额返佣激励和营销资源扶持,并计划在2024年实现2000+个优质应用入驻商店。

  值得一提的是,今日,百度还全新发布百度智能云千帆大模型一体机,包括通用版、昇腾版和昆仑芯版,支持开箱即用的大模型一站式工具链,目前已面向伙伴优先订购。

  一、超8.5万客户使用千帆,精调1.4万模型,生态伙伴数增5倍

  百度集团执行副总裁、百度智能云事业群总裁沈抖谈道,大模型的产业落地尚处早期,但大模型已经开始真正被用起来了。

  ▲百度集团执行副总裁、百度智能云事业群总裁沈抖

  从百度的数据来看,过去一年,百度智能云千帆大模型平台上API的调用量呈现了指数级增长,已经有超过8.5万的客户在使用千帆平台,累计精调了超过1.4万个模型,开发了19万个应用。

  大模型的生态圈也在快速发展。过去6个月,百度智能云生态伙伴的数量增长了5倍,伙伴们开发的300多款应用通过“千帆应用商店”进入市场。

  沈抖认为,过去,使用AI技术门槛很高,开发、部署、人才、成本都是难题,很大程度上抑制了AI的产业化进程。

  如今,大模型极强的泛化能力,为跨行业、跨场景的AI应用开发提供了通用的、可迁移的基础能力和全新的AI原生应用研发范式,在极大地降低研发门槛、提升研发效率的同时,也为产业生态环境带来根本性的改变。

  百度智能云以AI原生技术栈赋能伙伴,提供包括百度百舸AI异构计算平台、百度智能云千帆ModelBuilder、百度智能云千帆AppBuilder等在内的技术栈,并面向不同类市场制定差异化的生态战略。

  二、千帆平台再升级,推出千帆大模型一体机,打造大模型服务超级工厂

  今日,百度智能云千帆平台实现新升级,进一步朝“打造大模型服务超级工厂”的目标进击。

  百度智能云宣布,千帆平台Agent支持应用创建全流程自动化,可一键全局优化、自动推荐工具、自动优化指令。换句话说,就是支持一句话生成应用的全部信息。

  以“农业智答小助手”为例,这一应用开发基于千帆AppBuilder实现了全流程自动化,头像、角色指令、工具指令等都通过大模型一键生成,大大降低了开发门槛。

  百度智能云预告,其将在下周上线工作流编排功能,帮用户自定义组件快捷接入,灵活编排业务流程。

  百度今日还全新发布百度智能云千帆大模型一体机,支持开箱即用的大模型一站式工具链,目前已面向伙伴优先订购。

  总的来说,在伙伴“装备”方面,百度智能云提供了包括AI异构计算平台“百舸”、大模型开发与管理平台“千帆ModelBuilder”、AI原生应用开发平台“千帆AppBuilder”等全栈领先技术支持,帮助伙伴在行业内快速构筑差异化优势。

  1、百度百舸AI异构计算平台:训练吞吐提升30%~60%

  百舸AI异构计算平台分成资源、组建和大模型加速三层。在备受产业关注的算力效率方面,百舸在训练吞吐相比开源版本提升了30%~60%。

  在资源利用率方面,百舸提供有效训练时长达到98%,带宽有效利用率达到95%。在规模方面,百舸支持万卡级别的超大规模异构计算,并支持25+主流大模型全技术栈性能优化、超稳基础设施和自动化容错保障等服务。

  2、百度智能云千帆ModelBuilder:77个模型可选,全流程工具链

  百度智能云千帆ModelBuilder提供丰富的大模型,全流程工具链,为企业提供更优“效价比”。

  千帆不仅支持文心大模型以及系列轻量级大模型,还支持众多第三方大模型和垂直大模型,合计达到77个。在工具链方面,千帆提供数据管理、模型调精、模型评估/优化、推理服务部署、Prompt工程等全流程。

  同时,百度智能云千帆还和英特尔合作,推出基于通用CPU的推理加速。此外,其还提供丰富的SDK和全栈API能力,让伙伴能快速低门槛进行模型开发。

  3、百度智能云千帆AppBuilder:支持Agent全流程自动化

  百度智能云千帆AppBuilder致力于增强模型应用效果,降低开发门槛,包括基础组件、高级组件、Agent、多渠道应用与分发等多个层级。前文提到的Agent全流程自动化、工作流编排功能更新,均来自这一级平台升级。

  本次,百度宣布全面开放产品权益,启动3+智算战略伙伴招募、全球首个千帆大模型创新实验室以及千帆杯·AppBuilder大模型开发者专项激励等。

  三、推出工业大模型底座,“大模型+小模型”,打造“电博士”等智能应用

  2024年被认为是大模型落地元年,大模型正在进入千行百业。

  今日。百度智能云宣布,工业大模型底座产品正式发布,未来还将陆续发布面向政务、交通、汽车、金融等行业的大模型底座。

  据悉,工业大模型底座为生态伙伴提供工业大模型应用开发全栈能力,分为资源服务层、模型服务层、知识服务层、应用开发层、业务中枢层五层架构,内置通用能力模块和面向工业行业特有的能力集合,具有应用开发提效、业务应用效果最优、极致资源利用性价比等全方面优势。

  资源服务层能够实现客户“研产供销服”业务数据、百度地图等特色数据的融合打通,让数据资产价值最大化。同时,还具备端、边、云协同能力,通过集群管理最大化资源调度和利用效率,并在业务应用侧支持大小模型的混合协作来达到业务应用成效。基于百度百舸·AI异构计算平台,整体资源利用率能够提升50%以上。

  模型服务层预置了工业大语言模型、视觉大模型以及多模态大模型,以及包括视觉模型、机理模型、数理模型在内的300多个工业场景小模型,共同保障工业场景的实际落地应用效果。

  知识服务层预置了工业行业知识库,并提供知识生成、知识检索等服务能力,能够帮助客户和合作伙伴不断更新、沉淀各个业务领域的知识资产。

  应用开发层主要由工业应用开发中心、工业应用服务中心、工业应用市场三部分组成,内置了工业行业应用组件库和模版,打通从低门槛开发工业应用到最终商业化的完整闭环路径。据测算,应用开发周期平均从3个月大幅缩短到10天;结合模型服务和知识服务等能力,效果方面,开箱即用准确率平均高达85%以上。

  业务中枢层则提供了面向管理者的“领导驾驶舱”,面向一线员工的Copilot助手以及业务运营、维管理等调度中枢能力,将重塑大模型时代的新型生产关系。

  山源电子基于百度智能云工业大模型底座,开发了“电博士”智能应用,为矿山生产供电系统保驾护航。电博士提供的专业知识问答、设备辅助检修等能力,能够快速解决设备故障、系统故障、安全运维等难题,大幅提升知识获取效率70%以上,帮助新人员工秒变供电维修“老师傅”。

  此外,电博士还可以高效处理供电系统事故,形成从供电系统故障快速定位、处置建议精准推送、处置操作立即执行,到处置方案一键落库的业务闭环,缩短故障处置时间30%以上,降低运维作业成本30%。

  四、七大AI原生应用产品升级,全面SaaS化,组合效果更佳

  大模型正在渗透企业各个业务环节,百度智能云除了提供开发平台,还推出了7款产品助力企业智能化升级。

  1、百度智能云一念,是一个大模型驱动的营销内容创作平台。比如迪思传媒基于这一应用为某车企自动写脚本,生成营销视频,探索AI时代的视频营销新范式。

  2、百度智能云曦灵,是大模型全面重构的数字人平台。曦灵在数字人直播、视频制作、数字代言等方面已经较成熟。

  3、百度智能云客悦,是大模型全面重构的智能客服平台。比如在“车辆小管家”应用中,客悦助用户问题自助解决效率提升至90%,企业智能客服运营效率提升6倍。

  4、百度智能云甄知,是大模型重构的知识管理平台。比如甄知在南方电网助用户“管、查、用、编”,助查阅效率提升50%,编写效率提升2倍。

  5、百度智能云超级助理,是大模型加持的超级办公入口。通过Agent开发引擎,以及多种交互形态,百度智能云超级助理打造部署灵活、开放兼容的办公提效工具。

  6、百度GBI,是全智能生成式BI产品。百度GBI从数据接入、数据清洗、图表绘制、问题归因、深度洞察、预测规划等数据全生命周期提供全智能生成式BI服务。

  7、Baidu Comate,是全流程智能编码辅助工具,目前已与大量合作伙伴推动落地。

  用户抵达这些AI应用的方式都很简单,既可以通过SaaS直接访问,同时可以选择私有化部署方式。各种产品之间还可以搭配使用,组合后的能力更加强大。

  五、三大市场差异化生态战略,市场权益全面升级

  面向不同的市场伙伴,百度智能云制定了差异化的生态战略。

  沈抖透露,过去一年,百度智能云的伙伴主要包括两类:场景共创型伙伴和用户增长性伙伴。

  其中,场景共创型伙伴主要由头部的咨询、解决方案、服务等“综合型”伙伴,和擅长软件开发的“应用型”伙伴组成。另一类用户增长性伙伴,是由经销商、分销商、代理商等伙伴构成。

  百度智能云将大模型市场划分为:头部市场、价值市场、高潜市场。针对不同类型的客户市场,和生态伙伴采用不同的模式合作。

  首先,针对头部市场客户业务场景综合性强、复杂性高,有很强的个性化诉求,百度智能云将寻找具备较强客情关系、深度理解客户所在行业、拥有行业方案与产品的深度整合与交付能力的合作伙伴,与百度进行联合攻坚、相互补位,打造出大模型时代典型的应用案例,为客户创造新价值,树立行业标杆。

  第二类是价值市场,客户相比头部市场客户更多,业务场景更加标准化,复杂度更低。伙伴可以把面向头部客户打造的行业标杆快速复制,或者提供相对轻量化的定制方案。在此过程中,百度将以“伙伴优先”为原则,做好技术和商务支持,按需参与方案定制化开发,与伙伴共同开拓市场、服务客户。

  第三,高潜市场客户数量最多,业务场景也更简单,更看重开箱即用的解决方案。面向这类客户,百度将聚焦打磨标准化的产品与解决方案,并给予伙伴足够的让利,保障伙伴利润空间,支撑好伙伴,由伙伴完全主导销售及服务。

  本次,百度智能云推动市场权益全面升级。针对三类客户提供了不同的新权益,比如头部市场·10+综合伙伴提供10亿元定向商机和1000万元专项资金支持,针对价值市场·100+应用伙伴单个应用伙伴最高20万的联合解决方案共创基金等。

  结语:大模型“朋友圈”更新,重构云计算生态

  面向大模型引领的智能化升级浪潮,百度智能云携手伙伴共同探讨大模型时代的新型云计算生态体系,并面向头部市场、价值市场、高潜市场三类目标市场,制定差异化生态战略,并围绕大模型技术栈发布了一系列产品权益和扶持计划。

  正如沈抖所说,大模型极强的泛化能力,为跨行业、跨场景的应用开发提供了通用的、可迁移的基础能力和全新的AI原生应用研发范式,在极大地降低研发门槛、提升研发效率的同时,也为产业生态环境带来根本性的改变。

更多
· 推荐阅读
0
1
扫码下载股市教练,随时随地查看更多精彩文章
发 布
所有评论(0
  • 暂时还没有人评论
  • 0
  • TOP
本文纯属作者个人观点,仅供您参考、交流,不构成投资建议!
请勿相信任何个人或机构的推广信息,否则风险自负