英伟达最新的亚马逊网络服务（AWS）工作解决了这些限制。在亚马逊OpenSearch和Amazon EC2中，NVIDIA的AI基础设施为企业提供了更实用的生产规模部署AI路径。
由NVIDIA RTX PRO 4500 Blackwell Server Edition GPU驱动的EC2 G7实例扩展了AI、图形、视频和数据分析工作负载的计算层，而NVIDIA的cuVS库通过将GPU驱动的向量索引作为OpenSearch Serverless的默认选项，加速了检索层。随着AWS获得NVIDIA GB300的NVIDIA Exemplar云认证，客户可以放心地获得训练工作负载的最高优化性能。
Amazon EC2 G7实例将NVIDIA RTX PRO 4500 Blackwell服务器版GPU引入AWS，用于AI推理、图形、空间计算和GPU加速数据分析——为需要性能的生产工作负载设计了一种新型实例，同时避免了客户管理GPU平台的运营开销。
G7实例支持最多8块GPU、256GB总GPU内存、700 Gbps支持EFA网络和最多7.6TB本地NVMe SSD存储——涵盖一、二、四和八GPU配置及裸机配置，G7实例让客户为工作负载打造合适的基础设施，而无需过度配置。
与 G6 实例相比，G7 在亚马逊电子列车上使用 NVIDIA cuDF 库实现高达 4.6 倍的 AI 推理性能，最高达到 2.1 倍的图形性能，并且在 GPU 加速数据分析中实现了显著更快的速度。
该平台的多功能性意味着AI团队能够获得更低延迟的推理能力。媒体和娱乐团队获得高分辨率视频工作流程和渲染。仿真、计算机辅助设计、虚拟桌面基础设施、游戏和空间计算团队在图形密集型应用中获得相同的实例类型。数据团队还可以将GPU内存、本地存储和网络改进应用于分析流程和矢量数据库工作负载。
G7实例可通过AWS深度学习亚马逊机器镜像（AMI）、亚马逊深度学习容器、亚马逊电子病历、亚马逊EKS、亚马逊ECS和图形AMI（图形AMI）访问——并即将登陆亚马逊SageMaker AI。
免责声明：本文为转载文章，转载此文目的在于传递更多电子元器件行业信息，版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题，请联系小编进行删除。