深圳新闻网2024年6月22日讯(记者 叶梅)6月22日,今日,在华为开发者大会2024期间,以“大模型混合云,十大创新技术引领政企智能升级”为主题的高峰论坛成功举办。会上,华为主机上云军团CEO、混合云总裁尚海峰发布大模型混合云十大创新技术,通过聚焦根技术突破,帮助政企客户抓住大模型战略机遇,加速迈向智能世界。
尚海峰表示:“大模型的创新除了模型本身,更要脚踏实地深入千行万业,创造业务价值。华为云Stack将持续围绕AI-Native开展系统性创新,在场景上广泛探索,在技术上形成突围,携手共赢AI的黄金时代。”
大模型混合云成为最优解
大模型技术正在催生新一轮的技术创新和产业变革,行业专属大模型正在成为大模型应用落地的重要方向。
作为大模型行业应用的主力军和排头兵,政企客户通常业务场景复杂多样,对数据安全、训推效率和开发成本都有极致的要求。能够兼顾安全合规与成本的大模型混合云,正在成为越来越多企业的优先选择。
2023年,华为云推出业界首个大模型混合云华为云Stack,帮助企业一站式建设自己的专属大模型。
第一,坚实算力底座:华为云Stack从计算、存储、网络、安全和运维5大维度打造坚实的算力底座。在算力层面,通过多样性算力调度和算子加速能力,实现异构算力融合,算力利用率提升50%以上;结合高性能存储的多层缓存机制、高吞吐无阻塞AI网络,让算力发挥最大价值;四道大模型安全防线,可以智能拦截90%新兴攻击;打破硬件、模型、应用碎片化的运维体系,实现全链路可观测,故障1分钟发现、10分钟定界、30分钟恢复。
第二,使能百模千态:华为云Stack提供ModelArts一站式开发平台,支持大规模异构集群调度管理、分布式训练、云边协同部署及全流程工作流,并提供模型开发套件、全链路数据工程套件、应用开发套件3大套件,加速数据、模型、应用的一站式开发。同时,华为云Stack原生集成超过30个业界主流的基础模型,实现开箱即用。
第三,赋能千行万业:华为云Stack将与政企客户联合创新中的经验和能力固化下来,形成6大阶段30多个专业服务,覆盖大模型从规划设计到建设运营的全流程,让大模型从可用到好用。
十大创新技术发布!
大模型的应用是一个复杂的系统工程,不仅仅在于单点技术的持续演进,更需要基于场景和需求匹配合适的技术,通过全链路、多技术融合的系统性创新整体推进。峰会上,尚海峰正式发布大模型混合云十大创新技术,包括:多样性算力调度、云边协同、AI-Native存储、增强AI网络、算子加速、全链路数据工程、统一数据编码、精细视觉神经网络、无感断点续训、安全护栏,覆盖从云基础设施到AI开发平台以及模型层,通过系统性创新加速政企大模型应用进程。
随后,华为混合云数智领域总经理徐强结合动画演示向大家详细介绍大模型混合云十大创新技术。徐强在演讲中表示:“华为云Stack将持续深耕根技术,帮助更多的政企客户,建好大模型、用好大模型、加速迈向智能世界!”
四项全能,构筑最佳云化算力底座
随着大模型能力不断变强,模型参数不断增加,对端、边、云算力协同的整体架构设计提出了更高的要求。华为混合云CTO刘征辉在会上发表《打造最优混合云底座,使能大模型创新》主题演讲。
刘征辉表示,依托全系列产品研发经验,华为云Stack通过系统性创新,为政企客户打造大规模、高性能、高可靠、云边协同四项全能的云化算力底座,加速大模型应用进程。
在大规模方面,华为云Stack支持大规模AI集群和大容量训练数据,支撑千亿模型训练集群部署。
在高性能方面,无阻塞互联RoCE网络可实现训练效率提升50%,利用高性能存储的多层缓存机制,小文件加载效率提升了20倍。
在高可靠方面,通过软硬协同分钟级故障感知定界,实现月级长稳训练;智能化的运维管理,覆盖80%+故障场景、提升故障恢复能力,结合业界最成熟的安全运营方案、全覆盖的AI数据安全方案以及最高安全等级的算力平台,打造高安全算力。
在云边协同方面,华为云Stack提供多种边缘轻量化部署形态,AI高效赋能生产场站;并通过多云合一的管理架构,多云择优的调度策略实现多云算力管理。
深入场景,共筑商业成功
华为云持续深入行业场景,理解业务痛点,采用系统化思维,联合客户、开发者、同行、合作伙伴等上下游,持续构筑大模型的商业成功。目前,华为云Stack大模型混合云已应用于政府、金融、煤矿、交通、电力等10多个行业。
在政府,华为云联合广州、绍兴、深圳福田等客户一起基于大模型探索提升政务服务效率、优化城市管理。
广州市政务服务和数据管理局副局长梁文谦发表《数智引领未来,AI共绘蓝图》主题演讲。梁文谦表示,广州政数局勇于探索,实现算力、数据、算法三位一体协同发展,通过模式创新、技术引领,实现广州跨越式发展,老城市焕发新活力,打造数字经济引领型国际一流智慧城市。
目前,广州联合华为等头部企业,成立数字广州创新实验室,率先启动大模型合作创新。在政务服务领域,推进“智能办公”“智能导办”等大模型试点应用场景落地,构建市区统筹的一体化大模型开发运营平台;实现政务事项精准问询导办,边聊边办,24小时服务不打烊;办公全程有帮手,智能生成摘要,推荐历史审批数据,实现辅助批示,整体办公效率大幅提升,加速实现国际一流智慧城市发展目标。
在金融,华为云携手头部金融机构探索大模型在研发、客服、授信等领域的应用场景,并已经取得初步成效。
中国工商银行大数据与人工智能实验室夏知渊在会上分享工行基于混合云的金融大模型体系建设及应用实践。
基于华为云Stack大模型混合云,工行建成 “高速互联、高效存储、云智融合、全栈可信赖、无感协同”的人工智能算力云,实现支撑千亿大模型训练的AI算力集群,结合高质多维的最大金融数据集,在华为云盘古大模型的基础上打造金融认知能力领先的千亿级金融大模型,为工行大模型应用夯实基础。
目前,工行金融大模型已在信贷、远程银行等20个业务领域实现端到端、规模化应用,赋能全行40万名员工。如远程银行场景,大模型赋能客户服务全线业务工作,覆盖5000余名用户,在重点场景实现使用座席通话时长压降10%,知识运营效率提升20%。
在工业,华为云联合鄂尔多斯、山能等客户,探索通过矿山大模型加云边协同帮助矿山增安提效,同时推进矿山大模型、工业互联网平台的融合发展,赋能矿山产业集群的智能化。
鄂尔多斯市创新投资集团有限公司副总经理、数字投资有限公司总经理廉咏梅出席峰会并发表演讲。廉咏梅在演讲中分享,为了加速煤矿产业智能化发展,鄂尔多斯市政府与华为联合打造内蒙古首个以行业AI大模型为核心的工业互联网平台,向煤企和伙伴提供开发、销售、运营等一站式服务,实现300+煤企统一接入,提供统一的AI算力资源和创新平台,赋能生态企业。
会上,鄂尔多斯市数字投资有限公司与华为云联合发布《矿山产业集群大模型运营最佳实践》白皮书,希望沉淀平台运营过程中的实践经验,为同行数智化转型提供参考路径。
《矿山产业集群大模型运营最佳实践白皮书》白皮书发布
携手共赢大模型生态
华为云Stack旨在打造更优的大模型底座和基础能力,通过工具和专业服务使能懂行的生态伙伴,共同探索更多大模型与行业结合的创新路径。
目前已经有政府、金融、矿山、能源等行业100多个重点伙伴基于盘古大模型及开发平台构建行业场景模型和创新应用,打造了丰富的行业大模型方案。面向未来,华为云Stack将以坚定的战略耐心,持续深入行业场景,与客户、合作伙伴一起共迎AI的黄金时代。