.net建网站的优势,津做网站,最权威最有效的投诉平台,c2c电子商务12月20日#xff0c;2023百度云智大会智算大会在北京举办#xff0c;大会以「大模型重构云计算#xff0c;Cloud for AI」为主题#xff0c;深度聚焦大模型引发的云计算变革。
百度智能云表示#xff0c;为满足大模型落地需求#xff0c;正在基于「云智一体」战略重构…12月20日2023百度云智大会·智算大会在北京举办大会以「大模型重构云计算Cloud for AI」为主题深度聚焦大模型引发的云计算变革。
百度智能云表示为满足大模型落地需求正在基于「云智一体」战略重构云计算服务目前已完成从底层基础设施—大模型开发与应用—AI原生应用开发的端到端升级重构全面升级百舸等20多个云计算基础设施、千帆大模型平台再升级、AI原生应用开发工作台“千帆AppBuilder ”全面开放。
智算大会现场百度智能云还公布了最新“成绩单”。自8月31日文心大模型向全社会全面开放以来在千帆大模型平台上大模型API日调用量增长10倍。目前千帆平台已经累计服务超过4万家企业用户累计帮助企业用户精调近1万个大模型。相较于自建系统训练大模型使用千帆平台训练的成本最高可以下降90%。 大模型正在重构云计算
“AI原生时代开启大模型正在驱动云计算产业创新变革。”百度集团副总裁侯震宇表示“大模型重构云计算主要体现在三个层面AI原生云将改变云计算的格局模型即服务MaaS 会成为新的基础服务AI原生应用催生新的研发范式 。”
首先在云基础设施层移动互联网时代的应用底层大多依赖CPU算力而AI应用对GPU或异构计算的需求大幅增加云市场的底层算力需求将逐渐转向以GPU为主。
其次在模型层大模型正在成为通用的服务能力即MaaS。MaaS将大幅降低Al落地的门槛实现真正的Al普惠。
最后在应用层应用开发的范式已经被彻底颠覆。大模型理解、生成、逻辑、记忆的独特能力会催生A原生应用研发新范式整个应用技术栈、数据流和业务流都将被改变。 百度集团副总裁侯震宇
侯震宇表示总体来说构建繁荣的A原生应用生态需要大模型、智能算力、AI原生应用研发新范式三要素相辅相成。大模型是AI原生应用的“大脑”智能计算则为A原生应用运行提供坚实支撑新研发范式助力开发者高效基于大模型能力开发应用。数据飞轮是成功的AI原生应用的充分必要条件让大模型能力高速迭代产品体验持续进步。 云计算全面升级五大领域20余款全栈产品集中发布
AI原生时代面向大模型的云计算基础设施体系将全面重构。侯震宇表示百度智能云将在三大方面重构云计算服务即面向模型的智算基础设施、面向数据的数据基础设施、面向应用的云基础设施以支撑AI原生应用落地。
大会现场百度智能云密集发布和升级了20多款云计算产品涵盖智能计算、通用计算、数据库和大数据、分布式云、应用开发平台五大领域。
在智能计算领域算力是大模型落地的基础条件当前大模型训练、推理、部署对高速互联、计算效率、算力成本等都提出了高要求需要打造新型的智算基础设施。但目前的计算集群还面临不少挑战大模型训练时间长、易出错、稳定性差算力集群规模大、系统复杂度高也增加了运维难度。 全新发布的百度百舸·AI异构计算平台3.0针对AI原生应用以及大模型的训练、推理等环节进行了专项优化。百舸3.0在稳定、高效、易运维三个方面大幅升级产品能力实现万卡级别任务有效训练时长达到98%以上带宽有效性可达 95%。相比自建智算基础设施可以实现模型训、推吞吐分别最高提升30%和60% 。 百度百舸3.0发布 针对AI原生时代智能算力的供给平衡问题百度智能云发布智算网络平台。在算力资源层面智算网络平台支持将百度及第三方建设的智算中心、超算中心、边缘节点等智算节点进行全域接入将分散和异构的算力资源连接起来形成统一的算力网络资源池再通过百度自主研发的算力调度算法智能分析各类算力资源的状态、性能和利用率等指标统一调度算力让智算资源灵活、稳定、高效地交付给有需求的用户实现智算资源的“南水北调”。
在通用计算领域计算、存储、网络等云原生基础设施也需要面向AI原生时代重构升级提供更具弹性、高性能和智能化的运维能力。
本次大会百度太行·计算新增了三款计算实例全新推出第7代通用计算型云服务器实例G7综合性能较上一代产品提升10%发布昆仑芯弹性裸金属实例NKL5搭载了百度自研的昆仑芯R300加速处理器在大模型推理场景综合性能较业界主流加速卡可提升达50%发布基于昇腾910B加速处理器打造的弹性高性能计算实例NH6T在大模型训练场景中综合性能较业界主流加速卡提升可达40%。
同时高性能计算平台CHPCCloud HPC正式发布为用户提供的一站式公共云 HPC 服务。在资源使用层面CHPC支持用户一键创建高性能计算环境并根据业务变化灵活使用云上资源在业务应用层面CHPC支持集成药物研发、基因测序等行业的应用。此外结合集成在 VPC 内的百度网盘等服务用户可以轻松实现HPC源文件从提交、上传、处理、结果回传到分发的数据全链路打通助力研发提效。
在分布式云方面百度智能云带来三大升级边缘计算节点BEC产品能力升级打造全球统一的边缘计算网络和产品体验打造AI原生应用时代能力最完善的“云边一体”专有云ABC Stack新能力发布支持本地部署百度智能云千帆大模型平台本地计算集群LCC新能力发布支持全新一代CPU/GPU实例以及完整的百度智能云AIHPC集群管理能力进一步丰富完善基础设施与云产品支持能力矩阵。
大模型落地不仅需要算力支持还需要对各类数据和海量的知识进行存储、管理和分析工作。百度智能云在云存储、云原生数据库、大数据平台等数据基础设施领域发布了一系列重磅新品。
百度沧海·存储统一技术底座正式发布能够支持各类存储产品同时满足AI原生时代的大规模、高性能、低成本的存储要求。全新升级的对象存储BOS、云磁盘CDS、并行文件存储PFS等产品面向数据湖存储和AI存储能力进行了全面增强加速智能计算释放数据价值。
云原生数据库GaiaDB 4.0版本正式发布增强并行查询能力突破单机计算瓶颈实现跨机多核并行查询在混合负载和实时分析业务场景中性能提升超过10倍针对不同的工作负载推出列存索引和列存引擎提升不同规模数据的查询速度其中列存引擎最大可支持 PB 级数据的复杂分析并且与事务处理业务严格复杂隔离通过共识协议优化、链路优化、自适应动态回放存储多版本等一些列数据流深度优化大幅提升GaiaDB整体性能60%以上。
大会期间杭州吉利易云科技有限公司总经理成品耀分享了吉利集团携手百度智能云的打造集团专有云打造数字基建底座。目前吉利集团已实现车联网、生产制造业务上云且正在基于这套高效、稳定的基础设施平台构建企业级AI大模型能力全方位赋能集团业务。 杭州吉利易云科技有限公司总经理成品耀
模型即服务MaaS千帆大模型平台再升级
在AI原生时代大模型将作为新的通用服务能力由模型即服务MaaS平台提供给广大用户。百度智能云千帆大模型平台以下简称“千帆平台”作为业界领先的MaaS服务平台预置了包括百度文心大模型在内的、国内最多的54个主流基础大模型和行业大模型还为大模型的持续预训练、精调、评估、压缩和部署等环节提供最完善易用的工具链帮助客户针对自身业务场景快速定制专属大模型。相较于自建系统训练大模型使用千帆平台训练的成本最高可以下降90%。 百度智能云千帆大模型平台
目前千帆平台已经累计服务超过40000家企业用户精调近10000个大模型。本次智算大会针对客户应用大模型最关心的“提效”和“降本”两大核心诉求千帆平台发布一系列全新功能。 在数据方面千帆平台提供完善、高效的大模型数据管理工具链包括数据采集清洗、自动标注、自动增强与推理数据多位评估等功能助力用户快速构建自身业务“数据飞轮”实现反馈驱动增长。全新发布的数据统计分析、数据质量检查等功能支持用户获取全方位的数据洞察信息结合数据清洗可视化Pipeline能够构建出面向大模型场景的高质量数据燃料为大模型训练“保驾护航”千帆也因此成为国内首个支持大模型多方位数据分析的MaaS服务平台。
作为模型部署上线前的“最后一公里”模型评估能够对大模型的输出效果、计算性能等进行全方位评估确保大模型上线后AI原生应用的效果稳定可靠。千帆平台创新性地引入自动化与人工结合的双重评估机制充分发挥双方优势大幅提升模型评估效率与质量。一方面百度文心大模型作为AI裁判员能够对被评估模型的回答进行自动化打分极大程度地减少海量重复性人工作业另一方面由数据标注员/业务专家对大模型回答进行打分则能够实现对大模型回答质量的精细化衡量。
此外千帆平台灵活的计价方式如Tokens适用灵活性要求较高的业务、TPMTokens per Minute适用于较大并发量业务、批量计算适用于离线内容生产等对实时性要求较低吞吐较大的任务、算力单元适用于需要专享硬件部署模型的客户等可以轻松满足客户的多种业务场景需要助力企业低成本用好大模型。 赋能AI原生应用开发千帆AppBuilder正式开放服务
为了满足企业敏捷、高效地进行AI原生应用开发的需求降低AI原生应用开发门槛百度智能云千帆AppBuilder正式开放服务。 AppBuilder将大模型开发AI原生应用的常见模式、工具、流程沉淀成一个工作台帮助开发者聚焦业务本身而无需为开发过程牵扯多余精力。具体来讲AppBuilder主要由组件、框架两层服务构成。
「组件」服务由多模态的AI能力组件如文字识别、文生图等、基于大语言模型的能力组件如长文总结、nl2sql等、基础组件如向量数据库、对象存储等三部分组成是对底层服务能力的组件化封装让每个组件完成一个特定的功能。
「框架」则是通过将上述这些组件有选择地串联、组合起来让它们能够比较完整地完成一个特定场景的任务。目前AppBuilder提供的检索增强生成RAG、智能体Agent、智能数据分析GBI就是常用的AI原生应用框架。
AppBuilder提供两种产品形态代码态与低代码态。对于有深度AI原生应用开发需求的用户AppBuilder代码态提供包括SDK、开发环境、调试工具、应用示例代码等各种开发套件和应用组件而AppBuilder低码态则提供可视化工具用户只需简单点选即可快速定制、上线AI原生应用。 百度智能云千帆AppBuilder
百度创始人、董事长兼首席执行官李彦宏认为繁荣的AI原生应用生态会驱动经济增长。今年10月百度智能云推出了国内首个大模型全链路生态支持体系为合作伙伴提供包括赋能培训、AI原生应用孵化、销售商机、市场营销等全方位的支持致力于繁荣AI原生应用生态。
侯震宇预判2024年将成为AI原生应用的元年迎来AI原生应用的爆发式增长。百度智能云将持续推出有竞争力的产品方案与伙伴一起深耕客户应用场景让更多的AI原生应用创新涌现。
