南方电网智算系统集成项目是亚博威在智算系统集成领域的标杆项目,为客户建设集成千卡级智算集群,覆盖安全生产、数字化管理等11大AI应用场景。项目成功克服了方案复杂、周期紧张等挑战,搭建起全栈AI算力基础设施,并建立标准化运维管理机制,为业务提供了从算力、数据到算法的全面支撑,对大型央企智算中心建设具有良好的行业示范意义。
一、项目概况
南方电网智算系统集成项目由128个算力节点构成,集群规模为千卡集群。在支撑场景建设方面,通过本项目建设,在安全生产、基建管理、市场营销、综合管理、网络安全与数字化等业务领域开展11个人工智能场景AI算法和模型建设,提供涵盖算力、数据、算法、模型全要素的AI产品服务。项目整体方案需分为大模型集群、模型开发测试和推理集群及各自对应的网络互联互通模块,上层业务复杂、性能优化工作量大、建设周期非常紧张。项目通过科学的架构设计、驻场运维保障与算力纳管、调度、池化三层管理机制,顺利完成千卡集群建设与交付,建立标准化运维管理体系。
二、客户领导评价
综合来看,本项目以"全栈交付、驻场保障、机制先进"为核心优势。千卡级智算集群覆盖11个AI业务场景,方案复杂度和建设周期压力都非常大,亚博威团队按期高质量完成了集群建设,从算力、数据到算法提供了全要素支撑。三名驻场工程师有效保障了集群运维的响应时效,从算力纳管、调度、池化三个层面建立的管理机制和工具链,让我们的人工智能基础设施真正用得好、管得住。项目建设及软件运维的集成标准化成果,对我们后续的算力建设很有参考价值。我们对项目成果高度认可。
三、运维服务内容
我们为客户提供了覆盖建设与运维全周期的智算系统集成方案,内容包括:
千卡智算集群建设:完成128个算力节点的部署集成,构建大模型集群、模型开发测试与推理集群及各自对应的网络互联互通模块,形成全栈AI算力基础设施。
AI场景支撑服务:支撑安全生产、基建管理、市场营销、综合管理、网络安全与数字化等11个人工智能场景的AI算法和模型建设,提供算力、数据、算法、模型全要素资源保障。
驻场运维保障:安排三名驻场工程师,负责集群日常运维、故障处置与业务支撑,保障运维响应时效。
算力管理体系建设:从算力纳管、调度、池化三个层面建立管理机制和工具链,实现智算资源的统一管理与高效利用。
四、运维服务过程
在项目实施过程中,我们以"全栈规划、分步交付、标准沉淀"为主线组织服务:
架构设计:统筹大模型集群、开发测试集群、推理集群的差异化需求,完成整体方案设计与网络互联互通规划。
集群建设:按计划完成128个算力节点的上架、部署与调试,同步开展人工智能样本供给管理工具建设,承接样本数据采集、处理、存储、供给任务。
性能优化:针对平台性能测试中发现的问题开展大量优化工作,确保集群达到设计算力指标。
驻场运维:三名驻场工程师承担集群日常运维,快速响应各场景业务诉求,保障模型训练与发布等任务的资源供给。
机制沉淀:建立算力纳管、调度、池化的标准化管理机制和工具链,形成建设与运维的集成标准化成果。
五、运维服务成果
项目实施以来,客户智算基础设施支撑能力显著提升:
全栈基础设施落地:搭建了人工智能场景优化的AI算力基础设施,提供全栈AI算力基础设施服务,支撑人工智能基础设施开发平台基础服务及基础能力适配,并对模型训练、模型发布等提供资源保障。
响应时效保障:三名驻场工程师有效保障了集群运维的响应时效,11大AI场景业务支撑平稳有序。
管理体系建成:从算力纳管、调度、池化三个层面建立了良好的管理机制和工具链,智算资源实现统一高效管理。
行业示范意义:项目建设及软件运维的集成标准化成果具有参考意义,为大型央企智算中心建设树立了样板。
