代理系统将多个CPU角色组合成一个工作流。最新的AMD EPYC CPU世代让客户能够针对每项任务进行优化,并为未来提供灵活性。
两年前,规划人工智能基础设施主要意味着为培训进行规模调整。随后推理成为塑造要求的主导。现在,代理将单一请求转化为一条不断变化的链条,包括检索、工具调用、代码执行和结果,可以说创造了一个不断变化的工作流程,改变了AI任务所需的计算量以及每次执行中计算需要的位置。

围绕单一时间点构建的基础设施,有可能成为下一个方向的错误形态。灵活性不再是特色。它是栈每一层的要求,包括支持代理流水线的CPU。
企业已经明白这一点。数据库、虚拟化、分析、网络服务、技术计算和人工智能长期以来都需要不同的系统配置。代理人工智能将更多这些配置文件整合到一个工作流程中。
针对此,AMD发布了一份新的白皮书,评估了第六代AMD EPYC™ 9006“Venice”服务器CPU在通用、企业、云原生、AI和高性能计算工作负载中的应用,而非仅依赖少数几种。
在SPECrate® 2026整数测试中,AMD EPYC™ 9996服务器CPU的每核性能是基于Nvidia Vera平台的1.2倍性能是平台级性能的2.24倍。在企业和云原生测试中——包括服务器端Java、OpenSSL、MongoDB、Redis、NGINX和事务处理——AMD测试报告显示提升幅度为2.4倍至3.7倍。
与英特尔®至强® 6980P处理器相比,AMD EPYC 9996服务器CPU在分子动力学、材料建模和天气预报方面的性能优势提升了1.8倍至3.13倍。在建模的100千瓦机架中,其吞吐量估计是基于Vera平台的3.4倍。
强的每核负载性能可以加速对延迟敏感的工作,而核心密度则支持并发并提升机架级吞吐量。处理器组合让客户能够同时优化两者,而无需在整个机队中做出同样的妥协。
“Venice”是围绕这一原则设计的组合之一:四个系列运行在共同的软件基础上,涵盖8核边缘部署、256核旗舰处理器和机架级AI主机节点。代理流水线中的每个角色都可以使用适合其的处理器配置文件,而无需创建独立的操作环境。
免责声明:本文为转载文章,转载此文目的在于传递更多电子元器件行业信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行删除。