云栖科创SHOW!与行业先锋共话“智算中心”

2023-11-02 649
随着人工智能技术的快速发展,ChatGPT、通义千问、文心一言等基础大模型的问世,一系列爆款大模型应用产品相继涌现,全球范围内对算力的需求呈现出爆炸式增长,智算中心应运而生,并逐渐成为行业发展的重要趋势。

2023云栖大会现场,浩鲸科技展示了智能算力中心方案,包括算力中心建设、平台、运营服务体系等,并于云栖科创SHOW场进行“智算中心高效运营——释放智算价值”主题分享。

图片关键词

基于对数据规模指数级增长、算力需求指数级增加、业务服务能力需求不断升级、AI和大模型技术日趋成熟并广泛落地等内外部环境变化的深度理解,浩鲸科技构建了以多种架构的GPU和CPU为算力基础的异构混合算力中心与传统数据中心以CPU为算力基础相比,智算中心更适用于支持大模型、科学计算等智能算力场景,算力架构更加复杂。

算力中心建设后的运营服务是充分发挥其作为基础设施的关键环节,浩鲸科技云服务事业部总经理张正锋认为,运营是基础设施生产力价值体现的关键,通过对算力中心的精细化运营,能降低智算中心算力闲置率,充分释放智算中心的算力价值。

图片关键词

为了更高效地运营和运维智算中心,浩鲸科技提出一种创新解决方案——“运营支撑工具体系+专业运营服务”。通过自研的异构算力管理平台、数据和模型开发工厂以及运营支撑平台,能有效提升智算中心资源使用效率、平台维护效率以及业务AI模型开发效率。这不仅探索出了一条智算中心经济且高效的可运营路径,也深度开发了智算中心的生态价值,进一步挖掘了智算中心的最大价值潜力。

○ 异构算力管理平台是针对不同厂家、不同架构的算力、存力、网络资源的纳管而开发的。平台可以对接入资源进行自动化监控、根故障分析和智能修复,并根据业务场景的需求对算力资源的切片、池化、调度管理。无论是对于复杂的网络资源,还是对于多元的算力资源,都可以实现精细化的管理、运营和运维。

○ 数据和模型开发工厂为行业和企业提供了全方位的数据处理和模型开发支持。除为企业提供一站式的应用算法和大模型开发平台外,还支撑企业结构化和非结构化数据的统一接入、清洗、入库治理。借助数据和模型开发工厂,企业可以更便捷地进行大模型开发和应用的工程化过程

○ 运营支撑平台则是一站式的智算产品和服务目录定义、计费规则、产品发布服务的平台。通过平台,智算运营商可以更高效地进行产品和服务管理,而智算用户也可以通过自服务方式订购应用所需的算力产品、模型产品和服务。此外,运营支撑平台还为智算生态开发提供了有力支撑,包括生态合作伙伴招募、市场活动策划信息发布、智算文案发布等。

图片关键词

大会现场,浩鲸科技展台智能算力中心方案吸引了众多行业人士的关注。这一方案将为智算中心的高效运营和管理提供强大支持,也将推动整个行业向更智能化、高效化的方向发展,为算力中心区域内政府、企业和科研机构提供一站式智算中心建设、领域大模型开发、智算生态开拓等服务。

欢迎感兴趣的伙伴拨冗莅临。


官方微信公众号

浩鲸云计算科技股份有限公司 版权所有 2003-2023

苏ICP备10224443号-6       苏公网安备 32011402011374号