华为云在香港为大模型训练推理提供即开即用澎湃算力

2024年04月23日,17时14分46秒 OpenAI 阅读 4 views 次

4 月 23 日,华为云香港峰会成功举办,华为云宣布在香港提供即开即用的 AI 云服务,为大模型训练和推理提供高效、长稳、可靠的 AI 算力。

华为云表示,其基础设施将通过全链路云化工具链支持大模型高效迁移、开发和高效运行,并提供针对昇腾云进行特别优化的大模型专区,使能 “百模千态” 应用快速落地。

华为云在香港为大模型训练推理提供即开即用澎湃算力华为云全球 Marketing 与销售服务总裁石冀琳在活动中。

华为云全球 Marketing 与销售服务总裁石冀琳表示:香港 AI 产业发展具备良好的基础,拥有一流的高校资源和科研机构,以及开放的经济体制和国际化的商业环境,吸引了全球顶尖人才和企业在这里汇聚。华为云积极支持香港建立一个完善的创新科技生态体系,将香港打造成为全球 AI 产业高地。为更好支持大模型的 “百模千态” 创新,华为云在香港、内地多个城市打造全栈自主、软硬件结合创新的 AI 云算力底座,提供大规模、低成本、高效率、易使用的智能算力。

华为云于 2023 年正式发布了昇腾 AI 云服务,依托贵安、乌兰察布、芜湖 3 大 AI 云算力中心和香港节点,为大模型训练推理提供澎湃算力。华为昇腾 AI 云服务支持高效长稳,提供更长稳的 AI 算力服务,可实现大集群训练 30 天不中断,训练作业故障可以做到 1 分钟发现,5 分钟诊断,10 分钟恢复。

此前,科大讯飞通过华为提供昇腾集群进行讯飞星火大模型训练,训练性能整体提升了 17%。在星火 3.0 发布后,面临新的推理资源不足的挑战,讯飞采用华为云昇腾 AI 云服务,一方面快速开通数百卡的推理资源,另一方面可以根据业务上线情况随时调整资源使用量,不会导致投资浪费。同时,华为云全球算力布局,也支持了科大讯飞业务出海,共同服务全球企业智能化。

美图自研 AI 视觉大模型 MiracleVision(奇想智能),广泛应用于电商、广告、游戏、动漫、影视五大行业,帮助细分领域设计场景提升了效率。在华为云昇腾 AI 云服务的助力下,将文生图、图生图等场景使用到的模型迁移到了昇腾 AI 云服务上,双方共同进行了 30 多个算子的优化以及流程的并行加速,迁移后,美图 AI 绘画等业务推理提升 30%,帮助企业更好地实现降本增效。

华为云与软件伙伴合合信息构建联合解决方案,基于昇腾云服务在香港提供的 AI 算力及跨境可信网络与合规框架,承载智能文档解晰、商业大数据及合规审计、风控管理等多个子功能,可为企业提供资质的验真、分类、识别等 AI 辅助能力,加快基金申请审批速度,优化端到端流程服务,大幅降低相关人力投入。

据了解,在云上,华为云也提供盘古大模型 100 + 能力集、70 + 基于昇腾云适配优化后的开源大模型,以及全流程模型开发、调优工具链,为本地企业提供全栈算力服务,通过坚实的云化算力底座使能 “百模千态” 应用快速落地。

(来源:机器之心)

标签:


用户登录