5月18日,百度智能云在广州举行2023百度智能云合作伙伴大会,向在场的300家政企客户展示文心大模型在场景应用、生态建设领域的最新进展。
百度集团执行副总裁、百度智能云事业群总裁沈抖在视频致辞中表示,自3月16日文心一言内测以来,一个多月完成了4次大的技术升级,大模型推理性能提升近10倍,正是因为客户和伙伴的最真实反馈,使得文心的迭代更加有的放矢。当前,我们再次到了所谓iPhone诞生的时刻,基于生成式AI一定会出现大量新的AI应用。我们希望和伙伴们一起用AI改造千行百业。
百度集团副总裁袁佛玉表示:大模型时代会带来三大产业机会:新型云计算、行业模型精调、应用开发。客户和伙伴无论希望在哪个方向加大投入,百度智能云都能提供所需的可靠服务,包括有全球首个一站式的企业级大模型生产平台“文心千帆”、全栈自研的AI时代基础设施“百度AI大底座”。
据介绍,目前有15万企业申请文心一言内测,其中有超300家生态伙伴在400多个具体场景取得测试成效。百度2023年第一季度财报显示,百度智能云销售线索在3月同比增长超过400%。百度智能云在本季度也首次实现了盈利,收入42亿元,同比增长8%,超出市场预期。
大会现场,汉得信息、金蝶、软通动力等28家合作伙伴与百度智能云签约。一方面将更快的推动文心千帆在技术、产品等多个领域建设丰富的生态体系,推动大模型落地到更多企业;另一方面与伙伴建立云智一体产业联盟,共同打造行业标杆案例,构建标准化的人工智能解决方案,在各个行业实现规模化复制。
汉得信息首席运营官黄耿在现场演示了正在内测中的四大智能应用,包括智慧导购、智慧物流、资产助手、营销创意助手。“最近听得最多的一个词叫百模大战,大家都在关心各种各样的模型。在中国,我们的选择就是文心一言,汉得的自主产品已经全线接入文心一言的能力。”黄耿表示。
金蝶助理总裁、产品管理与营销运作部总经理韩革缨表示,金蝶已经接入了文心一言大模型,不断在各种业务场景探索验证。未来金蝶还会结合大模型,不断去升级金蝶原有的NLP、OCR等应用。
文心千帆大模型平台开启内测:一边大炼模型一边打磨工具
当前,企业关注的焦点,已经从大模型的功能和技术,转到如何更高效地使用上大模型,抢占先机红利。多数企业最关心的是大模型的效果和使用成本。
据百度智能云介绍,文心一言内测初期,很多企业的CEO、一把手来百度交流,内容多为科普大模型方向。现在,与百度交流的企业已变为各个部门的实际负责人,他们希望更快使用上大模型,在市场竞争中获得优势。
百度智能云认为,对于大部分企业来说,自己搭建大模型是重复造轮子,不现实也不经济。企业真正的机遇是,基于通用大模型抢先开发重要的应用服务。就像移动互联网时代,最成功的商业产品不是安卓和IOS,而是基于安卓和IOS开发的微信、淘宝、抖音等各种超级应用。
百度智能云会以文心千帆去支持所有想拥抱大模型的企业,它是全球首个一站式的企业级大模型生产平台,主要提供两种服务:第一以文心一言为核心,提供大模型服务,帮助客户改造产品和生产流程。第二,企业可以在文心千帆上基于任何开源或闭源的大模型,开发自己的专属大模型。文心千帆提供大模型开发和应用的整套工具链。简单来说,企业想使用大模型,在文心千帆大模型平台可以一站解决。
目前文心千帆提供公有云服务、私有化部署两大交付模式。在公有云服务方面,将提供推理(直接调用大模型的推理能力)、微调(通过高质量精标业务数据,高效训练出特定行业的大模型)、托管(将模型发布在百度智能云,以实现更加稳定高效的运行)三种服务,大幅降低企业部署大模型的门槛。
比如在微调方面,文心千帆提供了可视化开发工具链,提供了数据生成、标注、回流的数据闭环管理功能。客户以少量数据即可发起模型微调,最快几分钟就可获得自己的专属大模型。
在私有化部署方面,文心千帆大模型平台支持软件授权(提供在企业环境中运行的大模型服务)、软硬一体(提供整套大模型服务及对应的硬件基础设施),租赁服务(提供机器和平台的租赁满足客户低频需求)三种方式。私有化部属还能够满足对数据监管有严格要求的企业客户需求。
对于合作伙伴们关心的使用成本问题,文心千帆将会在训练、推理、模型微调等方面持续迭代升级,让合作伙伴们可支付的大模型服务成本变的更加低。实际上,文心一言内测1个月以来,大模型推理成本已经降为原来的十分之一。
文心千帆生态初见成效:超300家伙伴探索场景应用
如今,超过300家生态伙伴在基于文心千帆大模型平台在各种各样的场景探索应用。百度智能云方面表示,内容创作、智能客服、办公提效是目前三大高频需求场景。
服务过6000多家大中型企业的汉得信息,是一家企业数字化应用软件及解决方案提供商。汉得信息首席运营官黄耿在现场演示了基于文心千帆公有云服务打造的四大智能应用,包括智慧导购、智慧物流、资产助手、营销创意助手。
消费者在品牌商的商城里购物总是特别希望在大量的商品里能够快速找到适合自己的产品,而品牌商总是希望能引导更多的下单,过去主要靠导购推荐,但培训一个经验丰富的导购成本很高。汉得信息基于文心千帆大模型平台打造了一个AI导购,可与消费者进行多轮次对话,基于聊天内容精准理解需求,为消费者的购物决策提供即时帮助,改善消费者购物体验。有一些消费者脸皮薄,面对真人不敢砍价,但面对机器人,可以轻松要到优惠价格,购物体验大幅提高。
调度是物流管理很重要的环节,因为很多订单会出现延期、变更,需要物流管理员不断干预。现在AI物流助手可以为企业提供合适的物流方案,减少延误风险,还能降低费用成本。此外,AI物流助手还可以把物流管理中间很多繁琐的事情简化掉,减轻物流管理的负担。
“在购物、物流环节可以有AI助手,那是不是在其他领域也可以有合适的小助手?”黄耿还介绍了基于文心千帆大模型平台打造的资产设备管理小助手。对于资产密集型的企业,设备越来越多,但不是每个管理员都是老专家。设备管理AI助手可以把成熟管理员的经验沉淀下来,给出设备维修和保养的合理建议,让没有经验的管理员也可以轻松管理企业设备资产。
在品牌营销领域,一些大的企业产品线多,营销方案多外包给服务商,但会造成沟通效率低,修改成本高。汉得信息打造的营销创意助手,可以自动生成不同风格的多种文案,高效地满足企业营销需求。
黄耿认为,企业级私有大模型一定是接下来B端应用非常重要的事情,企业将通过私有模型来构建自身竞争能力差异性。我们非常期待未来跟百度智能云在私有大模型领域展开合作。
汽车、办公、政务、水务、工业等领域的合作伙伴也在基于文心千帆大模型平台探索打造智能化应用。
长安汽车正在和百度智能云联合开发一款智能产品,赋能长安汽车的一款量产车型,打造创新性的用户体验和持续的研发动能。金山办公在意图理解、PPT大纲生成、范文书写、生成待办列表、文生图等多模态生成的场景上,与百度智能云的联合开发已经取得了进展。
大模型时代正在催生全新的AI基础设施
大模型的大计算、大参数、高成本,对大模型时代的AI基础设施提出新的要求。
百度是全球唯一在四层IT技术栈(芯片层、框架层、模型层、应用层)进行全栈布局的人工智能公司。基于四层架构优势,百度智能云打造了国内首个全栈自研的AI基础设施“百度AI大底座”,面向企业AI开发提供端到端的解决方案。尤其是在框架层和模型层之间,AI大底座有很强的协同作用,可以帮助企业构建更高效的模型,持续调优性能,并显著降低成本。
百度智能云云计算产品解决方案和运营部总经理宋飞举例:“大家可能会觉得堆积算力、写好代码、然后进行模型训练,把它跑起来就行了。实际上在训练过程中会遇到各种各样的挑战,很少有人能够使得一个大模型训练过程能够在连续一两天内不出问题。百度AI大底座可以为大模型提供高效、稳定的训练和有效的收敛,千卡加速比达到90%,资源利用率达到70%,开发效率提升100%,这是AI大底座为大模型的开发和应用带来的价值。”
百度AI大底座也在为合作伙伴提供帮助。百图生科基于与百度智能云联合构建的生物超算平台,训练出了全球首个、也是目前最大的生命科学领域的千亿大模型“xTrimo”。 在地平线的智能驾驶解决方案全生命周期开发中,百度AI大底座为高性能数据存储和模型训练提供支持。
百度智能云秉承着“行业深耕 持续下沉 云智一体 模式创新 生态建设 AI底座构建”的基本原则,当前已在广东、广西、福建、海南、云南、重庆等地完成了政府、水务、工业、教育、泛科技等行业生态伙伴的布局,共同打造端到端的联合解决方案,实现成熟赛道上的规模化复制。