沃资讯
科技 财经 汽车 游戏 数码 资讯 商业

SmartX与AMD发布Agentic AI双负载联合方案

2026-11-20来源:互联网编辑:瑞雪

面向智能体运行的企业云基础设施正在从单一GPU资源池转向CPU与GPU协同。SmartX与AMD联合发布的Agentic AI生产级云基础设施方案,以AMD EPYC处理器作为CPU算力底座,并由SmartX榫卯企业云平台统一承载Agent运行、模型服务以及计算、存储、网络、安全和运维能力。

该方案强调,Agentic AI在企业环境中持续运行,除了模型推理,还要处理智能体编排、工具调用、上下文管理、文件持久化、安全隔离和运行监控。因此,基础设施需要同时覆盖CPU、GPU、块与文件存储、网络、安全、容器和统一运维,形成面向Agent就绪的企业云。

在Agent工作负载中,AgentRuntime、安全沙箱、Skills、MCP Server、工具调用和上下文处理主要由CPU执行,并产生大量文件、上下文、中间结果和调用记录。联合方案文档提到,在企业复杂任务的Agent链路中,50%以上耗时可能落在CPU侧调度、工具执行与上下文处理;这一数据来自特定研究口径,但反映出Agent运行与模型推理对资源的要求并不相同。

资源规划上,CPU可重点承担Agent编排、工具服务、检索API、数据库与缓存,GPU重点承担模型推理,再通过统一存储、网络和安全策略连接两类负载。方案中的可商用CPU底座为AMD EPYC 9005,并给出向EPYC 9006演进的路线。

SmartX榫卯企业云平台整合虚拟化、容器、存储、网络安全、AI平台和统一运维,企业可按业务阶段组合模块。Agent运行侧可通过虚拟机和容器承载AgentRuntime、智能体编排、安全沙箱、Skills、MCP Server和上下文处理;块存储与文件存储保存模型文件、Agent工作目录、上下文和中间结果,原生文件共享能力支持多Agent协同。

模型服务侧,榫卯AI平台负责异构算力管理、模型部署、模型仓库、模型网关、推理服务和运行监控,支持物理机、虚拟机和Kubernetes环境,并兼容NVIDIA、昇腾、AMD、Intel多类AI芯片。该平台还提供统一模型入口、API Key分组、Tokens用量与配额、请求限速、并发控制、调用日志和访问审计,并可在推理实例侧观察TTFT、TPOT、端到端延迟、吞吐、队列和KV Cache使用情况。

两类负载通过Prompt、Context、Token、Answer和Tool Call形成循环。Agent调用模型服务获取推理结果,模型返回工具调用请求,Agent再调用企业工具执行任务,执行结果和状态写入存储。榫卯AI平台负责模型入口和推理服务,SKS为容器化Agent和模型服务提供运行时,块存储与文件存储保存模型、上下文和工作数据,Everoute提供网络隔离,CloudTower提供统一运维和全栈可观测。

这一架构不要求所有负载混部在同一资源池。企业可按业务等级、资源类型和安全边界划分资源池,由统一平台完成管理和策略协同。已有虚拟化、Kubernetes、数据库和业务系统的企业,也可在现有云底座上逐步扩展Agentic AI能力。

适合较早验证的场景包括企业知识与流程助手、研发与运维智能助手、多Agent协作与工具调用平台,以及需要私有化部署的Agentic AI应用。SmartX官网公开的匿名场景中,大型船舶工程企业基于榫卯企业云平台运行规范查询助手、翻译和运维等智能体,并通过榫卯AI平台管理内部已有模型与自建模型;三级甲等医院通过榫卯AI平台建设统一模型服务,支撑临床诊疗、病历书写、诊断质控和医疗问答等场景。这些场景共同需要连接知识库、业务系统、工具服务和模型服务,同时保留上下文、权限和调用记录。

私有化部署前,企业需要验证Agent实例数量、上下文长度、并发请求和模型规模是否与CPU、内存、GPU资源匹配。榫卯AI平台最少可通过一个节点起步,生产高可用场景建议采用三个以上节点;榫卯企业云平台采用三节点起步的产品组合设计,具体规模仍需按模型、并发、GPU类型和业务等级规划。

Agent生命周期和状态数据同样需要验证,包括Agent能否按需创建、暂停和销毁,工作目录、上下文、长期记忆和中间结果能否持久化,多Agent共享文件时权限是否清晰。模型服务侧应检查统一入口、配额、限流、访问控制、日志和用量统计是否完整;安全侧应梳理Agent对MCP Server、数据库、内部API和外部服务的访问关系,确认网络隔离和文件权限能够实际生效。

可观测能力也不可缺少。Agentic AI的异常可能来自编排、工具调用、MCP连接、模型推理、GPU、存储I/O或网络链路,企业需要从业务任务追踪到模型、容器、存储和网络,并明确每类异常的恢复路径。联合方案白皮书可通过SmartX公众号后台回复“AI 联合方案”获取。