2026-11-20 18:31
最后更新于2026-11-21 19:41
AI123

SmartX与AMD发布Agentic AI生产级云基础设施联合方案

SmartX与AMD联合发布面向Agentic AI的生产级云基础设施方案。方案以AMD EPYC处理器为CPU底座,通过SmartX榫卯企业云平台统一承载Agent运行、模型服务,以及配套的计算、存储、网络、安全和运维能力。该方案已在第六代AMD EPYC处理器技术峰会上展示。

SmartX将Agentic AI生产级云基础设施定义为:能在企业私有云或自有云环境中持续运行Agent,同时提供模型服务的基础设施。与只建GPU资源池不同,这类平台还需覆盖CPU、GPU、块与文件存储、网络、安全、容器和统一运维。

联合方案的分工是:CPU侧重Agent编排、工具服务、检索接口、数据库与缓存;GPU侧重模型推理;两类负载通过统一存储、网络与安全策略连接。方案文档称,在企业复杂任务的Agent链路中,50%以上的耗时可能花在CPU侧的调度、工具执行与上下文处理上;这一数据来自特定研究口径。AMD EPYC 9005是当前方案中可商用的CPU底座,方案同时给出向EPYC 9006演进的路线。

模型服务侧由榫卯AI平台负责异构算力管理、模型部署、模型仓库、模型网关、推理服务与运行监控;该平台支持物理机、虚拟机和Kubernetes环境,也支持NVIDIA、昇腾、AMD、Intel多类AI芯片。平台还提供统一模型入口、API Key分组、Tokens用量与配额、请求限速、并发控制、调用日志和访问审计,并可在推理实例侧观察TTFT、TPOT、端到端延迟、吞吐、队列和KV Cache使用情况。

部署规模上,榫卯AI平台最少可从1个节点起步,生产高可用场景建议3个以上节点;榫卯企业云平台则采用三节点起步的产品组合设计。SmartX建议企业先选择边界清楚的业务,验证Agent实例数量、上下文长度、并发请求和模型规模是否与CPU、内存、GPU资源匹配。

来源
  1. 2026-11-20 16:35 | IT之家:Agentic AI 生产级云基础设施怎么建?SmartX 与 AMD 发布双负载联合方案
    阅读原文

    SmartX 与 AMD 联合发布面向 Agentic AI 的生产级云基础设施方案。方案以 AMD EPYC 为 CPU 算力底座,通过 SmartX 榫卯企业云平台统一承载 Agent 运行、模型服务以及配套的计算、存储、网络、安全和运维能力。一句话结论: Agentic AI 基础设施不能只建设 GPU 资源池。企业需要同时支撑 CPU 驱动的 Agent 运行和 GPU 驱动的模型推理,并让两类负载共享存储、网络、安全和可观测能力。SmartX 与 AMD 在第六代 AMD EPYC 处理器技术峰会上展示 Agentic AI 联合方案。Agentic AI 生产级云基础设施是什么?A...

其他新闻

查看全部