9月22日，2026云栖大会在杭州国际博览中心开幕。本届大会以“智以致用”为主题，汇聚了全球AI基础设施与智能体领域的前沿技术与产业实践。在“Agentic AI时代的算力与存储服务器革新”分论坛上，无问芯穹技术副总裁吴保东发表题为《基于Agentic Infra的多GPU集群AIOps实践》的主题演讲，系统分享了无问芯穹在智算集群智能运维领域的前沿探索与实践成果。
作为领先的AI原生基础设施服务商，无问芯穹Agentic Infra自主式基础设施平台把散落的、异构的算力资源统一汇聚、智能编排、按需响应，已在全国部署触达超37,000P算力、覆盖16种主流芯片，盘活了广域分散的异质算力，为模型与应用层筑牢充足、稳定、可扩展的算力底座。
然而，随着大模型推理需求爆发式增长，中国日均Token调用量已突破140万亿，两年间增长超千倍，规模的快速扩张也带来了严峻的运维挑战。
首个智算运维智能体评测基准，为行业提供统一“标尺”
吴保东指出，当前智算集群运维面临两大核心难题：一是集群高度分散，故障发生时运维响应极为分散；二是故障范围广泛，涉及GPU硬件、网络通信、存储、模型算法乃至平台层问题，仅靠传统人工方式排查，平均处理时长高达1.2小时。
更关键的是，传统运维链路“告警触发—问题发现—人工判断—跨团队排查—手工恢复”链条极长，告警噪声大、重复率高达60%-70%，诊断准确率不足60%，往往治标不治本。面对运维智能体的落地需求，行业存在两大顾虑：一是安全性，一旦误操作可能造成毁灭性后果；二是缺乏评测标准，现有体系要么偏向通用问答，要么聚焦语言对话，均无法覆盖真实GPU集群的系统交互与故障处置。
为此，中国信通院牵头、无问芯穹提供技术支持，推出了首个面向智算运维智能体的评测基准——AISHPerf-智算运维智能体评测基准。该评测基准基于近百亿条真实运维数据建设，包含三大核心组件：aiops-data融合1600余条历史工单与上万条线上告警，形成覆盖5类国产芯片、22个故障领域、40种问题现象的103条评测数据；aiops-chaos通过劫持NVML库模拟GPU显存、温度、频率等异常，并支持RDMA链路与交换机故障注入，构建高保真可复现评测环境；aiops-eval采用“主指标+辅助指标”体系，按任务难度加权计算成功率，同时衡量耗时、Token消耗与工具调用质量，强调智能体必须通过实际调用工具获取信息，仅凭推理命中根因视为无效。
该基准的推出，为智算运维智能体提供了统一、真实、可复现的评测标准，也为行业构建优秀运维Agent提供了明确方向。基于该基准对多个主流模型的测试显示：智能体处理效率较人工提升5-6倍，但综合解决能力差距明显，人类运维专家可达100分，模型最高总分不超过50分；简单任务正确率约75%，困难任务正确率仅15%-23%；模型在容器平台、训练脚本等代码类问题上表现优异，但在GPU硬件故障上正确率仅61.9%，国产芯片故障识别能力尤为薄弱。典型失败模式包括任务稳定性不足、推理链质量差、决策与执行不够安全。吴保东强调，构建优秀运维Agent需要以Harness兜底、高信噪比知识注入、过程监管和可信沙箱提供系统保障。
Infini-AIOps实践成果：多智能体协同，工单处理时长下降约91%
针对评测暴露的推理不稳定、专业知识不足和执行风险，无问芯穹构建了基于多智能体协同的Infini-AIOps智能体系统。系统采用主智能体统筹、多智能体分工的架构，下设环境查询与验证、环境部署安装、故障处理三个子智能体，分别负责只读数据采集、执行部署与测试、执行修复操作，形成从感知、决策到安全执行的运维闭环。
在技术架构上，Infini-AIOps通过四层设计保障可靠性：智能体运行时层以Skills和知识库固化GPU故障诊断经验；沙箱层支持GPU透传与权限隔离，实现真实硬件环境下的安全诊断；工具层统一接入告警、日志、监控数据及K8s接口；节点层完成驱动适配与硬件健康自检。安全机制方面，系统设置了白名单审核、黑名单拦截、运维人工审核三重防线，确保每一条命令执行前均经过严格校验。
落地成效方面，吴保东披露了Infini-AIOps在无问芯穹内部平台的实际运行数据：工单处理时长从最高5.5小时降至0.47小时，下降约91%，人效提升近12倍；即使工单量长期维持百单级、峰值达到262单，处理效率仍持续改善。在评测对比中，Infini-AIOps相比ReAct框架，整体正确率从63.11%提升至82.26%，平均时延从282.60秒降至244.19秒，工具调用耗时降低约52%。提升主要来自中高难度任务，中等难度正确率达到87.5%，困难任务正确率达到90%，复杂故障处置能力显著增强。
Infini-AIOps通过更高效、精准的环境信息获取，降低工具调用开销，并显著提升模型解决中高难度问题的能力，让智算集群运维从被动响应走向主动治理。
吴保东在演讲最后展望了运维智能体的未来方向。他表示，随着超节点架构普及，NVLink、UVLink等新链路带来的故障场景尚待覆盖，需要构建更可控、更可信的故障仿真环境。同时，多模态交互能力、Harness架构优化、基于记忆与在线强化学习的自进化体系，都将成为下一步探索重点。
随着智算集群规模持续扩大、异构芯片加速部署，无问芯穹此次分享不仅展示了一套经过真实业务验证的AIOps系统，更通过开源评测基准的建立，为行业提供了一把衡量运维智能体能力的“标尺”。当智能体真正走进集群深处，算力基础设施的稳定性与效率将迎来新的跃迁，未来的AI基础设施，将是能够自我感知、自我修复、自我迭代的自主自治系统，以极致效率服务更大规模，加速底层基础设施向AI生产力的转化。
